arXiv · ML· Sasha Robinson, Katherine M. Collins, Ilia Sucholutsky, Kelsey R. Allen·· 5 小时前AI 评分43
LLM 在智能体任务中的警惕性评估与提升
Under the Influence: Evaluating and Improving LLM Vigilance in Agentic Tasks
AI 导读
研究发现前沿 LLM 在导航危险网站、避免欺诈及修补代码库任务中极易受恶意影响，且警惕性与模型性能显著解耦。 研究提出基于贝叶斯推理的警惕性框架（vigilance harness），通过评估建议价值决定是否采纳，在保持有益影响的同时恢复基线性能。
来源：arXiv · ML · arxiv.org