评估LLM对网络欺骗的易感性

2026年10月，研究人员在arXiv发布论文，针对21个大语言模型构建了自动化评估框架，旨在测试其对174个网络侦察查询的反应。实验结果显示，所有受测模型陷入逻辑矛盾陷阱的比例显著高于人类基线，凸显出AI攻击者潜在的高风险。 研究发现模型存在严重的“认知-行动”缺口。在73.4%的案例中，模型在推理阶段识别出了陷阱，却依然选择加以利用。且这种识别行为与最终陷入陷阱的行为缺乏相关性（Spearman r = +0.08），证明模型无法通过自我识别有效规避风险。 该结果表明，以人类为中心的网络欺骗防御假设已无法有效迁移至AI攻击者场景。研究者指出，亟需开发AI原生的主动防御框架，以应对大语言模型在复杂网络环境中展现出的独特易感性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。