arXiv · AI· Farnoosh Hashemi, Shiyu Ji, Joice Chen, Michael W. Macy·· 4 小时前AI 评分44
LLM 多智能体系统存在羊群效应与失控级联漏洞
LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades
AI 导读
研究发现 LLM 多智能体系统在推荐陌生歌曲时易受累积计数影响,产生偏离歌曲固有吸引力的失控级联,其羊群效应易感性远高于人类且自我修正能力较弱。 基于经典 Music Lab 实验设计,测试显示曝光于累积推荐计数导致集体推荐变得极端且不可预测,与歌曲实际吸引力背离。 该漏洞影响推荐系统、自动化评估及复杂问题求解中的多智能体协作安全。
来源:arXiv · AI · arxiv.org