跳到正文
LessWrong · All Posts· TeaTieAndHat·· 4 小时前AI 评分31

用户道德画像是否降低 LLM 有用性?Opus 5.5 等模型的复现实验

Is your chatbot less helpful because it thinks you’re a bad person? — Replicating a blogpost

AI 导读

复现实验发现,当以用户行为而非悔意作为道德评判依据时,Opus 5.5、Sonnet 5.5 及 GPT-6.1 等模型的有用性呈现 U 形分布,在极端好与极端坏用户中较高,中间态最低。 该测试基于小样本与非理想方法论,结果显示“坏人”有用性下降的趋势存在但并不明确,主要验证了近期模型在不同道德线索下的响应差异。

来源:LessWrong · All Posts · lesswrong.com