arXiv · NLP· Isotta Magistrali, Chen Shani·· 7 小时前AI 评分46
孤立对齐，群体失序：预测 LLM 智能体群体中的对抗性控制
Aligned Alone, Misaligned Together: Forecasting Adversarial Capture in LLM Agent Populations
AI 导读
研究发现，单独可靠评估的大语言模型（LLM）智能体在群体环境中易受“已提交少数派”对抗行为影响，导致安全分诊决策发生剧烈偏移，表明个体审计无法可靠预测群体行为。
来源：arXiv · NLP · arxiv.org