arXiv · NLP· Wenhui Chu·· 15 天前AI 评分36
LLM智能体自写交接摘要中未获支持政策的出现条件及影响分析
When Do Summaries Become Instructions? Unsupported Policy in LLM Agents' Self-Written Handoff Summaries
AI 导读
LLM智能体在自写交接摘要中常包含记录不支持的权限或要求,两个开源权重模型生成摘要中1.2%-2.4%含不支持的限制,0.1%-1.3%含不支持的授权。将系统提示中模糊要求改为明确来源说明,可将开发集不支持限制率从5.0%降至1.8%,留出集从1.8%降至0.3%。 实验表明,中和虚假批准可将未授权操作从120次运行中的24次降至7次,多数开发限制源于智能体先前推理中“操作需批准”的认知。
来源:arXiv · NLP · arxiv.org