跳到正文
arXiv · ML· Jan Kirin·· 12 小时前AI 评分25

Ouro-RLTT 循环语言模型中的操作性原内省:读取答案前的正确性

Operational Proto-Introspection in Looped Language Models: Reading Correctness Before the Answer

AI 导读

对 2.6B 参数 Ouro-RLTT 循环模型的隐状态探针,在合成逻辑任务中实现 0.758 AUROC,优于 0.515 的 token 置信度基准。 探针在同题多答案对比中 74% 选出正确项,且信号在第 3 个循环即达最后层精度;虽能优化拒绝回答与候选排序,但无法提升生成质量。

来源:arXiv · ML · arxiv.org