arXiv · AI· Chengquan Guo, Xiaodong Liu, Weiwei Yang, Mingqian Feng, Jialin Song, Qiyao Ma, Carolyn Buractaon, Christopher White, Bo Li, Jianfeng Gao·· 9 小时前AI 评分34
LLM 智能体中的信任区域效应：注入位置的影响
Where You Inject Matters: The Trust Region Effect in LLM Agents
AI 导读
研究发现大语言模型智能体对环境中不同位置的间接提示注入具有不同信任度，该现象被称为信任区域效应。在固定注入内容的前提下，由 GPT-5.4 驱动的agent遵循放置在 README 或 TODO 文件等仓库文档中的不安全注入指令的频率，比放置在代码或数据文件中高 2.6 倍。
来源：arXiv · AI · arxiv.org