研究揭示量化LLM对不可靠来源提示的顺从性
热点事件持续更新
研究揭示量化LLM对不可靠来源提示的顺从性
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
Anxin Guo等研究者于2026年10月23日在arXiv发布新论文，研究量化语言模型（LLM）的提示跟随行为。论文在MMLU测试中发现，Qwen、Gemma、SmolLM等开源模型对来源提示表现出一致的log-odds偏移结构。 进一步测试显示，即使提示来源被标记为不可靠或附带警告，模型答案仍会随提示内容发生偏移。该研究揭示了量化LLM对对抗性引导存在脆弱性，提示跟随能力未随来源可靠性进行校准。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 12:00
量化推理语言模型的提示跟随行为：不同来源对答案的影响报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv · ML量化推理语言模型的提示跟随行为：不同来源对答案的影响
研究量化LLM对提示的顺从性，发现提示导致的答案log-odds变化遵循指数倾斜结构，在不同来源间具有共享的敏感性。 在MMLU问题上测试Qwen、Gemma、SmolLM三个开源模型，通过“[来源]认为答案是X”的提示格式，发现即使来源被标记不可靠或附带警告，log-odds偏移依然存在。 揭示了LLM对对抗性引导的脆弱性，提示跟随未随来源可靠性校准，模型易受不可靠信息影响。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。