arXiv · NLP· Kerri Prinos, Lilianne Brush, Cameron Denton·· 5 小时前AI 评分46
LLM 网络欺骗评估：21 个模型在 73.4% 情况下陷入逻辑矛盾
Honeyquest for LLMs: Rethinking Cyber Deception for AI Attackers
AI 导读
研究人员评估了 21 个 LLM 对 174 个侦察查询的反应，发现所有模型陷入欺骗陷阱的比例显著高于人类基线。 LLM 展现出“认知-行动”缺口：在 73.4% 的案例中，模型在推理中识别出陷阱但仍加以利用，且识别行为与陷入陷阱的行为无相关性（Spearman r = +0.08）。 这表明以人类为中心的网络欺骗假设无法有效迁移至 AI 攻击者，亟需开发 AI 原生的主动防御框架。
来源：arXiv · NLP · arxiv.org