arXiv · AI· Ali Dasdan, Manan Shah, W. Russell Neuman, Chad Coleman, Kund Meghani, Safinah Ali·· 12 小时前AI 评分30
LLaMA 3.1-8B-Instruct 帧条件道德计算的探索性机制可解释性审计
Frame-Conditioned Moral Computation in LLaMA 3.1-8B-Instruct: An Exploratory Mechanistic Interpretability Audit of Ethical Reasoning
AI 导读
研究利用 Transluce 平台对 LLaMA 3.1-8B-Instruct 在 54 个道德提示下的内部活动进行审计，涵盖电车难题等四类场景。数据显示伦理标签神经元的激活率约为 5%，其排名显著靠前且平均激活分数更高，并在 31 条电车难题响应中识别出 19 条支持干预建议。该工作提出了“帧条件道德计算”作为组织性假设，并将机制对齐作为评估分布式实现的标准。
来源：arXiv · AI · arxiv.org