arXiv · AI· Qinghua Mao, Xi Lin, Yuxin Qi, Zihao Xu, Jinze Gu, Yuliang Chen·· 13 小时前AI 评分50
当辩论放大风险：多智能体安全审议中的社会偏见漏洞
When Debate Amplifies Risk: Social-Bias Vulnerabilities in Multi-Agent Safety Deliberation
AI 导读
研究发现标准多智能体辩论（MAD）因社会偏见导致不安全采纳率从0.0%激增至100.0%。 该研究提出推理时审计框架 RiskTrace-Debias，将最坏情况下的不安全采纳率控制在 2.0% 以内。 此方法无需重新训练或生成新辩论，即可通过生成可验证溯源轨迹解决系统性脆弱性问题。
来源：arXiv · AI · arxiv.org