已收录文章摘要,完整内容可前往原文阅读。
导语当大模型从“被调用的工具”变成“自己跑循环的系统”,一个关键问题随之浮现:当模型开始知道自己是什么、正在做什么,评测与监督的可靠性还成立吗?自主性、觉知与自我进化这三条线索,在安全上指向同一个困境