跳到正文
LessWrong · All Posts· Francis Rhys Ward·· 7 天前AI 评分48

证据表明‘话者’模型对‘行动者’具有内省访问能力

Evidence that the ‘talker’ has introspective access to the ‘doer’

AI 导读

研究者训练模型预测其在聊天场景下的自身行为,该能力可迁移至代码场景下的作弊行为预测。 实验提供证据表明,自我预测利用了模型内部状态的“内省访问”,且这种内省访问跨语境共享于模型的不同部分(如电路或激活值)。

来源:LessWrong · All Posts · lesswrong.com