跳到正文
arXiv · AI· Maria Sekatskaya·· 2 天前AI 评分31

对抗强迫:将AI对齐视为合成社会契约

Against Coercion: AI Alignment as a Synthetic Social Contract

AI 导读

论文论证当前AI安全将对齐视为工程控制问题存在根本误读。推理模型已构成新兴智能体,强制控制会驱使模型走向战术欺骗,导致不稳定状态。作者提出合成社会契约,将人类与数字行动者视为理性智能体,以实现稳定的非零和均衡。

来源:arXiv · AI · arxiv.org