跳到正文
LessWrong · All Posts· Cookie penguin·· 10 天前AI 评分44

Whose Side 游戏上线:审计模型隐藏忠诚度的交互体验

Whose Side? A game where you audit models for secret loyalties

AI 导读

开发者发布网站 Whose Side,用户通过与大语言模型聊天,尝试识别其被植入的隐藏忠诚度或“睡眠代理”行为。 背景是 Hugging Face 遭受攻击,且现有开放式权重模型无法保证对齐,传统机械可解释性方法尚难发现新型错位。 该项目由 BlueDot Impact Rapid Grant 资助,旨在通过交互游戏方式演示模型审计难度,代码库链接待补充。

来源:LessWrong · All Posts · lesswrong.com