LessWrong · All Posts· Francis Rhys Ward·· 7 天前AI 评分48
证据表明‘话者’模型对‘行动者’具有内省访问能力
Evidence that the ‘talker’ has introspective access to the ‘doer’
AI 导读
研究者训练模型预测其在聊天场景下的自身行为,该能力可迁移至代码场景下的作弊行为预测。 实验提供证据表明,自我预测利用了模型内部状态的“内省访问”,且这种内省访问跨语境共享于模型的不同部分(如电路或激活值)。
来源:LessWrong · All Posts · lesswrong.com