跳到正文
Hacker News AI· pretext·· 11 天前AI 评分35

AI 对齐被视为有害:为何不应信任模型对齐

AI Alignment Considered Harmful

AI 导读

作者认为 AI 对齐因缺乏人类共识且依赖少数开发者价值判断而具有压迫性。 过度信任对齐会削弱个体判断力并导致社会放弃必要的安全措施,如红队测试和人工监督。建议将相关研究重新定义为“可控性研究”,而非试图“解决”伦理问题。

来源:Hacker News AI · togelius.blogspot.com