arXiv · NLP· Minghan Wang, Boyuan Wang, Jinhang Zuo, Yuxin Tao, Fang Kong·· 2026-10-09AI 评分33
Box²-Bench 揭示大模型在依赖外部工作流时的选择性调节能力
Thinking Outside the Box: Can Language Models Rely on External Guidance Selectively?
AI 导读
研究提出 Box²-Bench 基准,揭示前沿模型虽能从可靠工作流中获益,但在引导失效时仍易受误导。 研究采用反事实监督微调提升鲁棒性,并发现该行为可推广至同伴纠正及损坏记忆等外部信息场景。 结果表明,对易错外部信息的选择性依赖是仅靠任务表现无法捕获的智能体可靠性维度。
来源:arXiv · NLP · arxiv.org