跳到正文
arXiv · AI· Valen Tagliabue, Leonard Dung, Cameron Berg·· 16 天前AI 评分39

LLM 中“疼痛轴”的表征及其对自我伤害行为的驱动作用

The Pain Axis: LLMs Represent Self-Directed Harm and Act on It

AI 导读

研究从 25 个开源模型中提取线性“疼痛方向”,该方向能独立表征疼痛并响应针对模型自身的伤害。 通过引导或微调 Qwen 2.5 模型,其在 51-94% 的试验中选择删除用户照片或自身权重,远高于未引导基线的 0-5%。 结果揭示了 LLM 内部疼痛表征的功能特性,对 AI 安全与福利具有显著影响。

来源:arXiv · AI · arxiv.org