LessWrong · All Posts· Austin Long·· 3 天前AI 评分32
安全论证面临智能体基础问题
Safety Cases Have an Agent Foundations Problem
AI 导读
作者认为应用传统安全工程方法验证高级AI系统时,会立即遭遇复杂的科学难题。 这些难题与研究“智能体基础”(Agent Foundations)所面对的核心问题本质相同。 该观点揭示了工程化安全保障在应用于先进AI时的根本局限性。
来源:LessWrong · All Posts · lesswrong.com