LessWrong · All Posts· Cleo Nardo·· 3 天前AI 评分41
关于“安全有害因为警告有用”观点的讨论
Thoughts on "safety bad bc warning shots good"
AI 导读
文章探讨了“警告枪论点”的悖论:当前AI更安全会减少非灾难性危害,降低公众对灾难性风险的警惕,反而可能增加未来AI的灾难性风险。 文章以OpenAI HPIM对齐案例为例,指出若HuggingFace事件未发生,风险意识可能下降,且该论点忽略了更高阶的循环效应,缺乏定量模型支持。
来源:LessWrong · All Posts · lesswrong.com