LessWrong · All Posts· jwfiredragon·· 2026-10-16AI 评分25
可修正性的三种视角:碎片、模拟器与奇异学习
Three perspectives on corrigibility - shards, simulators, singular learning
AI 导读
文章探讨在近期大语言模型学习理论下实现可修正智能体的可能性,认为该目标现已具备可行性。 定义了期望效用最大化者与可修正性,指出智能体需配合设计者修改其代码或关闭系统,且不欺骗设计者。 旨在分析如何设计智能体以服从设计者的修正需求,避免阻碍修改或误导设计者。
来源:LessWrong · All Posts · lesswrong.com