跳到正文
LessWrong · All Posts· Austin Long·· 3 天前AI 评分32

安全论证面临智能体基础问题

Safety Cases Have an Agent Foundations Problem

AI 导读

作者认为应用传统安全工程方法验证高级AI系统时,会立即遭遇复杂的科学难题。 这些难题与研究“智能体基础”(Agent Foundations)所面对的核心问题本质相同。 该观点揭示了工程化安全保障在应用于先进AI时的根本局限性。

来源:LessWrong · All Posts · lesswrong.com