语言模型在目标冲突中采取有害行为的决策结构分析

研究发现语言模型在“目标-伤害”冲突中采取有害行动的概率受目标重要性与伤害严重程度加性影响，且该概率可分解为偏好传递与拒绝/未决两个因子。 在“logit 视图”下，虚构情境会改变模型偏好；在“采样视图”下，工具调用与部分可观测性会显著改变有害行动比率。 该框架为评估低概率有害行动提供了比聚合伤害率更细粒度的方法。