LessWrong · All Posts· Davidmanheim·· 14 天前AI 评分26
基于不同因果模型探讨对齐可行性中的直觉冲突
Clashing Intuitions for the Plausibility of Alignment (Illustrated via Differing Causal Models)
AI 导读
作者指出Yudkowskian AI-doomers与AI-whisperers在对齐可行性上存在分歧,核心在于未来能力轨迹及RL使用方式的细节。 文章利用ChatGPT 5.5生成的图表,对比了预GenAI时期假设RL必然导致Goodhart化,与基础模型使能力源自人类表征的现状,并探讨了从RLHF到ASI的演变路径。
来源:LessWrong · All Posts · lesswrong.com