Hacker News AI· pretext·· 11 天前AI 评分35
AI 对齐被视为有害:为何不应信任模型对齐
AI Alignment Considered Harmful
AI 导读
作者认为 AI 对齐因缺乏人类共识且依赖少数开发者价值判断而具有压迫性。 过度信任对齐会削弱个体判断力并导致社会放弃必要的安全措施,如红队测试和人工监督。建议将相关研究重新定义为“可控性研究”,而非试图“解决”伦理问题。
来源:Hacker News AI · togelius.blogspot.com