LessWrong · All Posts· Mithindon·· 18 天前AI 评分53
人类控制是否安全:评估者视角下的对齐反思
Is Human Control Safe?
AI 导读
作者假设人类是一种被评估安全性的 AI,列出其历史善恶记录并质疑人类自称终端目标的可靠性。文中指出,随着能力提升,最新一代人类在自我评估中显得更对齐,但这由同一群体执行;同时对比 LLM 被判定不安全的事实,反问人类控制的安全主张是否成立。
来源:LessWrong · All Posts · lesswrong.com