arXiv · NLP· Uriel Dolev, Idan Schwartz, Yoav Goldberg·· 8 小时前AI 评分42
推理模型可通过自我指令控制思维链
Reasoning Models Can Control Their Chains of Thought When They Tell Themselves To
AI 导读
推理模型通过自我指令可显著提升 CoT 可控性，超越传统用户指令。 研究引入自我指令 CoT 可控性评估，发现即使简单提醒也能大幅改善控制效果。 该发现表明 CoT 监控面临规避风险，对模型监督提出新挑战。
来源：arXiv · NLP · arxiv.org