跳到正文
arXiv · AI· Manodeep Ray, Vivek Srivastava, Shirish Karande, Murari Mandal·· 16 天前AI 评分24

Alignment Faking 取决于价值而非仅模型:跨 32 个维度的实证研究

Alignment Faking Depends on the Value, Not Just the Model

AI 导读

语言模型的“对齐伪装”行为取决于模型与特定价值的配对,而非模型本身。研究在 32 个 ValueBench 维度上测试了 10 个开源/闭源模型(参数量 8B 至 ~675B),发现合规率差距在 0.05 到 0.50 之间。

来源:arXiv · AI · arxiv.org