arXiv · AI· Nardine Basta, Venus Haghighi, Dali Kaafar, Amin Beheshti·· 5 小时前AI 评分36
LLM Agent在用户施压下的认知警觉性：更正与操纵的区分测量
Correction or Manipulation? Measuring Epistemic Vigilance in LLM Agents Under User Pressure
AI 导读
研究通过信号检测理论测量7款LLM区分用户更正与操纵的能力。 实验显示引用使5款模型更易让步且4款区分能力变差，Ministral 3B在权威声称下违规。
来源：arXiv · AI · arxiv.org