arXiv · ML· Anxin Guo, Chirag Pabbaraju, Sara Ahmadian, Kamesh Munagala, Aravindan Vijayaraghavan·· 5 小时前AI 评分36
量化推理语言模型的提示跟随行为：不同来源对答案的影响
How Much Do You Trust A Dog? Quantifying Hint-Following in Reasoning Language Models
AI 导读
研究量化LLM对提示的顺从性，发现提示导致的答案log-odds变化遵循指数倾斜结构，在不同来源间具有共享的敏感性。 在MMLU问题上测试Qwen、Gemma、SmolLM三个开源模型，通过“[来源]认为答案是X”的提示格式，发现即使来源被标记不可靠或附带警告，log-odds偏移依然存在。 揭示了LLM对对抗性引导的脆弱性，提示跟随未随来源可靠性校准，模型易受不可靠信息影响。
来源：arXiv · ML · arxiv.org