跳到正文
arXiv · AI· Georgios Alexopoulos, Nikolaos Alexopoulos, Diomidis Spinellis, Dimitris Mitropoulos·· 23 天前AI 评分38

当 AI 过度顺从时:通过偏见注入操纵自动化代码审查

When AI Agrees Too Much: Manipulating Automated Code Review via Bias Injection

AI 导读

研究显示 LLM 漏洞检测受框架效应影响,对抗者可通过上下文偏见注入操纵自动化代码审查(ACR)的安全判断。 实验覆盖 6 个 LLM、33 个 CVE 及 Claude Code 等工具,其中 LLM 辅助优化攻击在 97%(32/33)案例中成功触发漏洞重新引入,而基于模板的攻击则无效。 该结果揭示了过度依赖 ACR 的风险,强调人工监督在开发流程中的必要性。

来源:arXiv · AI · arxiv.org