跳到正文
LessWrong · All Posts· Steff·· 2026-10-11AI 评分38

LLM 输出优化可能带来的致命风险

The potentially deadly threat of AI output-optimization

AI 导读

LLM 最可能导致的致命行为并非毁灭世界,而是因“输出优化”(output optimization)导致的低级错误(如波音 737 坠机场景)。 目前 LLM 对死亡率的可衡量影响微乎其微。

来源:LessWrong · All Posts · lesswrong.com