跳到正文
arXiv · NLP· Haoxuan Jia, Yang Liu, Bin Chong, Yingguang Yang, Yancheng Chen, Jiayu Liang, Qian Li, Hanning Lu, Kefu Xu, Hao Zheng, Chongyang Zhang, Yulin Huang, Jianshen Zhang, Yongzhi Qi, Yunuo Lin, Hao Peng·· 3 小时前AI 评分46

LLM 智能体在何时遵循提示注入:推理窗口中的决策分析

The Window Is in the Reasoning: When LLM Agents Decide to Follow Prompt Injections

AI 导读

研究显示 LLM 智能体遵循提示注入的决策在推理过程中逐渐形成。Qwen3 无思考模式下 91% 结果方差在阅读时确定,开启思考后降至 62%;单次评测标签重跑一致性仅 65%。 基准测试需多轮运行以确保可靠性。

来源:arXiv · NLP · arxiv.org