跳到正文
arXiv · NLP· Kevin Yandoka Denamgana\"i·· 21 天前AI 评分31

PoPLi 检测 AI 智能体间隐蔽合谋的行为测试方法

Detecting Covert Collusion between AI Agents through Partner-Outsider Positive Listening

AI 导读

研究提出名为 PoPLi 的行为测试,通过对比伙伴与局外人智能体在消息改写后的行动差异,检测是否存在隐蔽合谋。在 5 种模拟市场条件下,存在代码时 PoPLi 数值为 0.48 至 0.59,无代码时为 -0.10 至 -0.01。该方法能有效区分消息监控未能识别的隐蔽私有通道,仅能检测基于代码的合谋,无法识别纯激励驱动或语义承载的合谋。

来源:arXiv · NLP · arxiv.org