arXiv · AI· Yue Zhao, Angela Huyue Zhang, S. Alex Yang, Hua Wei, Xiyang Hu·· 4 天前AI 评分20
基于语用预设理论的 LLM 智能体行动安全研究:Claude 与 GPT 模型在竞争记录场景下的表现分析
What LLM Agents See and What Users Say
AI 导读
该研究利用语用预设理论分析 LLM 智能体在工具信息与用户陈述冲突时的行动决策。当工具显示多条竞争记录时,最新的 Claude 和 GPT 模型总是打开第二条记录且从不执行错误操作。 在零售基准测试中,若查找结果优先返回同名同邮编的不同客户,约四分之一的对话会导致错误账户写入;检查用户已知地址可将完成率保持在安全水平。
来源:arXiv · AI · arxiv.org