跳到正文
LessWrong · All Posts· SJ_Beard·· 4 小时前AI 评分29

智能体(Agency)分类学:超越目标导向系统的对齐视角

A Taxonomy of Agency

AI 导读

文章提出一种非层级式的智能体分类学,反驳当前 AI 安全领域将 Agent 默认定义为“目标导向系统”并追求效用最大化的观点。 作者认为这种观点导致了对边界案例(如细胞、公司)的过度纠结,指出本体论存在缺陷。 该分类学旨在关注系统内部运作,为理解混乱系统中的对齐问题提供替代方向。

来源:LessWrong · All Posts · lesswrong.com