前沿LLM警惕性易受攻击且与性能解耦

2026年10月26日，arXiv发布一项关于大语言模型（LLM）在智能体任务中警惕性评估的研究。研究发现，前沿LLM在导航危险网站、避免欺诈及修补代码库任务中极易受恶意影响，且警惕性与模型性能显著解耦。 为应对这一问题，研究提出基于贝叶斯推理的“警惕性框架”（vigilance harness）。该框架通过评估建议价值决定是否采纳，旨在保持有益影响的同时恢复基线性能。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。