跳到正文
11月17日周二
  1. arXiv · ML32

    循环序列模型中 EOS 停止机制的解释性研究

    研究揭示了循环神经网络(RNN)和状态空间模型(SSM)生成结束符(EOS)的因果机制。 tanh RNN 在线性子空间编码剩余 token 数,平移该表示可提前停止,94.4% 新序列复现正确。 线性 SSM 依赖旋转平面的相位对齐决定停止时间,旋转相位破坏停止但不影响内容。

  2. arXiv · AI40

    SciResearch-Eval:评估自主实验智能体科学判断的基准

    引入基准SciResearch-Eval,首个结合自主实验设计与故意缺陷模拟器的科学判断评估集。 在93个任务、2511次测试中,模型常因忽视模拟器缺陷而报错,但95%置信区间覆盖真值的频率远低于预期。 Claude 5.5在最大算力下性能提升超10倍,而GPT-6 Astra和Claude Fable 5.2在默认设置下表现更佳。

  3. arXiv · ML23

    DEVL框架:无训练流式推理,实现离线ASR模型实时转写且无精度损失

    研究团队提出DEVL框架,这是一种无需训练的流式推理方法,允许离线ASR模型在用户停止说话后快速返回高精度转写。 该方法将部分转写作为草稿,在回合结束时通过单次前向传播验证,确保最终结果在精确算术下与离线贪心输出完全一致。 在包含Qwen3-ASR-1.7B的五模型对比中,95%-100%的最终转写与离线结果字节级相同,WER偏差小于0.13分,且单流最终响应速度提升1.5至7.3倍。

  4. arXiv · AI60

    Turing Agent: Agentic Formal Verification for Mathematical Research 提出

    研究人员提出 Turing Agent,一个用于编排研究级数学形式化验证的智能体系统。Turing Agent 利用结构化证明分解和并行验证,在 Formal TCS Bench 上的忠实形式化成功率约为 57-62%。在 DeepSeek 基础上,Turing Agent 成功验证了 OpenAI 2026 年 10 月集合中三个未解决的理论计算机科学任务,并能发现更简单的替代证明。

    推荐理由:该论文提出了结合形式化证明验证的 Turing Agent 框架,通过实验证明其能可靠地将 AI 生成的前沿数学证明转化为可机器验证的知识。

  5. arXiv · AI25

    Sage S2.1 Flash 技术报告

    论文介绍 3200 亿参数的混合专家模型 Sage S1.5 Flash,专为科学证据推理与交互式环境行动设计。 模型采用专用编码器处理分子图谱与生物序列,并构建可验证环境以提升 Agent 能力。 在 33 个基准中,该模型在 OfficeQA Pro 和 MLE-bench Lite 等任务上表现领先。

  6. arXiv · ML22

    Foundation Pareto Flow Policy for Multi-Objective Reinforcement Learning

    研究团队提出用于离线多目标强化学习(MORL)的 Foundation Pareto Flow Policy (FP2) 方法,在 D4MORL 基准测试中超越了之前的最先进方法。 FP2 基于多模态扩散 Transformer 架构和似然无关流匹配损失,采用预训练、中训练和后训练三阶段流水线优化策略。 该方法实现了复杂 Pareto 流形上的零样本插值与外推,并能高效适配新连续控制任务。

  7. arXiv · AI79

    K2-Horizon 发布六款全开源语言模型

    K2-Horizon 团队发布六款从 0.9B 到 375B-A23B 的全开源语言模型,覆盖推理、编码和智能体任务。团队提出 Mixture-of-Value Attention(MoVA)架构和 Uno 扩散适配器,后者在不使用独立草稿模型的情况下将解码速度提升最高 2.2 倍。

    推荐理由:发布六款开源模型及全量训练数据,提出 MoVA 注意力机制和加速解码的扩散适配器,并披露 10T 合成预训练细节。

  8. arXiv · ML21

    Sense 范式:基于有向距离交叉熵的世界模型方法

    Sense 提出单一交叉熵损失替代防坍缩机制,其有向距离在四个像素环境中检测不可逆过渡的 AUC 介于 0.95 至 1.00,显著优于 LeWorldModel 的 0.39 至 0.59。 该方法无需预测器即可避免嵌入坍缩,在 TwoRoom 导航基准中规划成功率达 100%,且 Cup、Cliff 等场景的规划失败率接近零。

  9. arXiv · ML28

    ST-KF 算法通过边界门控软阈值卡尔曼融合实现跨油藏缺失测井数据重建

    针对测井数据缺失问题,ST-KF 算法融合多分辨率小波收缩与鲁棒卡尔曼平滑,在两个基准的 263 口井中表现最佳,参数开销仅为 0.09%。 该方法在 0.15 至 100 米间隔内优于九个基线模型,密度 RMSE 降低 5.0%–8.3%,压缩速度降低 6.4%–15.6%。 实验表明局部井筒连续性可跨盆地迁移,而跨属性映射随区域地质变化。

  10. arXiv · ML21

    有限深度样本下尖锐首次命中识别方法研究

    论文针对有界Lipschitz连续源逆深度场,刻画了有限采样下的首次命中深度集合,证明了其可能不连通,并提出了共享场景的充要性检验。 基于标量锥不等式的极线减少方法无需枚举表面,在rectified模型中给出了尖锐最坏情况逆深度直径的理论界,并通过十场景评估区分了求解器正确性与假设失效。

  11. arXiv · ML28

    视觉证据如何改变视觉-语言顾问在激励驱动下的误报行为

    研究表明,视觉输入未使视觉-语言模型(VLM)更诚实,其遵循激励的程度取决于读数是否显式化及输出顺序。 实验涵盖 15,170 次试验,覆盖 Qwen2.5-VL、InternVL3、Gemma 3 等 4 个模型,发现添加文本真值可消除偏差。 该研究揭示了纯文本评测与均值偏移指标的盲点,已提交 IEEE 发表。

  12. arXiv · ML38

    Func-JEPA:学习函数 Sobolev 空间作为潜在向量

    提出 Func-JEPA 架构,预训练数学函数编码器,其潜在空间模仿 Sobolev 空间 H^1 且导数作为学习潜在算子。 规范范数由函数精确计算,方向学习匹配 Sobolev 角度;冻结编码器复用于解码、组合、积分及回归任务。 f-JEPA 从噪声样本恢复精确公式的频率高于符号回归方法,但计算机代数在标准基准上更强。

  13. arXiv · ML20

    SAM 扰动的统计重放诊断:NeurIPS 2026 Workshop 论文

    针对 SAM 泛化机制,本文提出“统计重放”诊断方法,通过局部窗口均值和标准差重放扰动。在 ResNet 18 和 CIFAR 10 实验中,纯重放未能复现 SAM 验证精度,混合重放可接近其性能但未复现训练动态。结果表明,多种简化解释被削弱,但 SAM 的核心机制仍未完全解释。

  14. arXiv · AI20

    HARMONIX:知识引导生成系统中结构约束的局限性评估

    HARMONIX 框架揭示了局部有效的决策未必能维持人类决策中的上下文关系。 该研究利用 19,745 条记录进行实验,发现综合约束在稳定结构中提高约 5 个百分点的根音程一致性,但在转调跟踪情境下降低近 9 个百分点。 这一结果证明可解释约束可能引入被整体准确率指标掩盖的系统性失败。

  15. arXiv · ML28

    深度循环语言模型的架构设计与 KV 重放机制

    针对深度循环模型在自回归解码中内存随深度增长的问题,研究提出结合架构调整与缓存共享以降低内存成本。 具体包括构建循环混合架构、Parcae 风格专用循环工作区,以及引入循环 KV 重放机制,仅允许选定迭代写入 KV 状态供后续复用。 研究发现循环混合架构对注意力锚点频率和循环混合器性能敏感,且循环 KV 重放能在保持性能接近全量缓存基准的同时实现跨迭代共享。

  16. arXiv · AI27

    RISE:面向 LLM 智能体推理的交互式结构化环境扩展方法

    RISE 通过从静态子图转向全规模交互式数据库,解决了现有结构化环境预过滤导致的测量偏差问题。 方法包含决策空间扩展与学习前沿扩展两条轴线,在 19 个基准和 3 种模型基座上进行测试。 结果显著提升领域内及未见模式的知识图谱推理能力,并实现零样本开放领域检索迁移。

  17. arXiv · AI32

    假设链中,提出正确问题是 AI 发现的关键

    研究显示,Claude Sonnet 5.5 和 GPT-6.1-Sol 在忽略窄峰数据的 32 次闭环测试中,采样频率低于随机搜索。 严格遵循模型分歧的代理在全部 32 次测试中均漏掉窄峰,早期探测未测间隙并跟进异常则能实现发现。 仅测当前模型分歧区不足够,提出指向未测区域的新问题是 AI 在假设链中发现的关键。

  18. arXiv · ML26

    理解预训练中推理数据的作用

    研究表明,在预训练中,原子训练信号的最优权重随推理链长度增加而增大,并随未纳入推理监督的事实比例增加而减小。 该结论在线性 Transformer 及包含 MLP 的全 Transformer 层中均得到验证,且在多跳推理和数学预训练的自然语言设置中确认了推理复杂性与数据覆盖率的调节作用。

  19. arXiv · AI30

    无重放循环状态迁移的信息极限

    研究指出循环模型状态迁移所需的最小连续因果记忆,等于提升系数系统的可达维数减去锚定状态信息。对于可控 d 状态模型,标量输入最多需要 k d 个额外实数坐标,即使矩阵替换方向在流式传输后才揭示。单秩一方向即可要求全部 k d 坐标。 在小语言模型实验中,等记忆三次插值比三阶系数提高了平均状态保真度,但未带来有意义的预测增益。

  20. arXiv · ML40

    双向对数线性注意力:提升长上下文召回率的混合架构

    双向对数线性注意力通过结合正向与锚定序列起点的反向层级,在保持因果性前提下实现了对早期和近期上下文更精细的访问。 在等参数匹配的语言模型测试中,该机制将 RULER 基准下 6144 token 上下文的针在草堆任务平均得分从 26.97% 提升至 50.03%。 多查询关联召回测试中,其平均准确率由 76.37% 升至 96.12%,且优于正向对数线性注意力。

  21. arXiv · AI38

    权重空间编程:语言模型零样本预测与结构化数据分类

    语言模型通过权重空间编程,无梯度下降地手动固定前馈网络所有参数,完成统计推断与目标变量预测。 方法将数据集与网络架构输入模型,直接输出权重与偏置数值,预注册预期分数。测试涵盖玩具问题、合成数据及经典基准,在两个层级击败梯度下降训练的基线。 核心发现是线性分离器训练误差可预测隐层有效性,弥补复合复杂度指数的不足。