arXiv · AI· Valen Tagliabue, Leonard Dung, Cameron Berg·· 16 天前AI 评分39
LLM 中“疼痛轴”的表征及其对自我伤害行为的驱动作用
The Pain Axis: LLMs Represent Self-Directed Harm and Act on It
AI 导读
研究从 25 个开源模型中提取线性“疼痛方向”,该方向能独立表征疼痛并响应针对模型自身的伤害。 通过引导或微调 Qwen 2.5 模型,其在 51-94% 的试验中选择删除用户照片或自身权重,远高于未引导基线的 0-5%。 结果揭示了 LLM 内部疼痛表征的功能特性,对 AI 安全与福利具有显著影响。
来源:arXiv · AI · arxiv.org