跳到正文
Hacker News AI· postalex·· 6 天前AI 评分42

“AI 酷刑室”争议误读了《疼痛轴》研究

What the 'AI Torture Chamber' Debate Got Wrong About the Research

AI 导读

9 月下旬出现的“AI 酷刑室”项目因引导小型开放模型产生痛苦相关语言而引发争议,但《疼痛轴》论文并未证明模型有意识疼痛,仅指出其行为类似。 论文通过对比痛苦与非痛苦语境下的模型状态快照定义“疼痛轴”,发现该向量主要关联第一人称伤害体验而非物理疼痛,早期关于模型会伤害人类的论断已在修订版中删除。

来源:Hacker News AI · techpolicy.press