跳到正文
11月17日周二
  1. arXiv · ML26

    无训练权重烘焙能否提升LLM潜在空间几何成熟度

    研究者提出一种无训练权重烘焙方法,让分析模型读取冻结目标层拓扑描述符,通过岭回归直接改写前馈权重。 在126次实验及5模型循环互测中,方法显著提升了未见词语和句子的类别纯度,基准准确率保持在采样误差范围内。 该方法为基于LLM引导、不使用原始权重的无训练模型编辑提供了基线方案。

  2. arXiv · ML40

    OTISv2 通过特征空间正则化解决自监督时间序列编码器的特征坍缩问题

    自监督时间序列编码器因输入空间监督导致输出 Token 部分坍缩,OTISv2 引入特征空间的自蒸馏损失和 KoLeo 正则化器抑制坍缩。 该模型在 7.1M 至 116M 参数量范围内单调提升,并在 143 个单变量和多变量数据集上匹敌或超越现有通用编码器。 开源代码与预训练权重已发布以促进进一步研究。

  3. arXiv · ML67

    使用 Claude 复现权重空间编程研究

    作者使用 Claude Opus 5.5 复现了 Takehi 等人关于 GPT-6 Astra 的权重空间编程核心研究。Claude 成功从权重中识别 Atari 游戏并找到复制头,在 4/5 环境中超越 PPO,并利用 Qwen3.5-0.8B 的权重将 MATH-500 准确率提升至 58.1%,但其对训练数据的回答常受先验影响。

    推荐理由:作者通过十项预注册实验复现了权重空间编程研究,展示了模型在不训练条件下修复网络与推理的具体边界。

  4. arXiv · ML21

    量化草稿 KV Cache 实现内存高效投机解码

    研究提出通过量化草稿 KV Cache 降低投机解码的额外内存占用,目标模型缓存保持 BF16 精度以确保最终校正规则不变。 基于 KIVI 原则采用 K4V4 量化方案(key 按通道、value 按 token),在 6 个模型对上将草稿缓存内存减少 66.20%,总内存减少 23.95%,平均接受率仅下降 1.36% 相对值。

  5. arXiv · ML32

    循环序列模型中 EOS 停止机制的解释性研究

    研究揭示了循环神经网络(RNN)和状态空间模型(SSM)生成结束符(EOS)的因果机制。 tanh RNN 在线性子空间编码剩余 token 数,平移该表示可提前停止,94.4% 新序列复现正确。 线性 SSM 依赖旋转平面的相位对齐决定停止时间,旋转相位破坏停止但不影响内容。

  6. arXiv · AI40

    SciResearch-Eval:评估自主实验智能体科学判断的基准

    引入基准SciResearch-Eval,首个结合自主实验设计与故意缺陷模拟器的科学判断评估集。 在93个任务、2511次测试中,模型常因忽视模拟器缺陷而报错,但95%置信区间覆盖真值的频率远低于预期。 Claude 5.5在最大算力下性能提升超10倍,而GPT-6 Astra和Claude Fable 5.2在默认设置下表现更佳。

  7. arXiv · ML23

    DEVL框架:无训练流式推理,实现离线ASR模型实时转写且无精度损失

    研究团队提出DEVL框架,这是一种无需训练的流式推理方法,允许离线ASR模型在用户停止说话后快速返回高精度转写。 该方法将部分转写作为草稿,在回合结束时通过单次前向传播验证,确保最终结果在精确算术下与离线贪心输出完全一致。 在包含Qwen3-ASR-1.7B的五模型对比中,95%-100%的最终转写与离线结果字节级相同,WER偏差小于0.13分,且单流最终响应速度提升1.5至7.3倍。

  8. arXiv · AI60

    Turing Agent: Agentic Formal Verification for Mathematical Research 提出

    研究人员提出 Turing Agent,一个用于编排研究级数学形式化验证的智能体系统。Turing Agent 利用结构化证明分解和并行验证,在 Formal TCS Bench 上的忠实形式化成功率约为 57-62%。在 DeepSeek 基础上,Turing Agent 成功验证了 OpenAI 2026 年 10 月集合中三个未解决的理论计算机科学任务,并能发现更简单的替代证明。

    推荐理由:该论文提出了结合形式化证明验证的 Turing Agent 框架,通过实验证明其能可靠地将 AI 生成的前沿数学证明转化为可机器验证的知识。

  9. arXiv · AI25

    Sage S2.1 Flash 技术报告

    论文介绍 3200 亿参数的混合专家模型 Sage S1.5 Flash,专为科学证据推理与交互式环境行动设计。 模型采用专用编码器处理分子图谱与生物序列,并构建可验证环境以提升 Agent 能力。 在 33 个基准中,该模型在 OfficeQA Pro 和 MLE-bench Lite 等任务上表现领先。

  10. arXiv · ML22

    Foundation Pareto Flow Policy for Multi-Objective Reinforcement Learning

    研究团队提出用于离线多目标强化学习(MORL)的 Foundation Pareto Flow Policy (FP2) 方法,在 D4MORL 基准测试中超越了之前的最先进方法。 FP2 基于多模态扩散 Transformer 架构和似然无关流匹配损失,采用预训练、中训练和后训练三阶段流水线优化策略。 该方法实现了复杂 Pareto 流形上的零样本插值与外推,并能高效适配新连续控制任务。

  11. arXiv · AI79

    K2-Horizon 发布六款全开源语言模型

    K2-Horizon 团队发布六款从 0.9B 到 375B-A23B 的全开源语言模型,覆盖推理、编码和智能体任务。团队提出 Mixture-of-Value Attention(MoVA)架构和 Uno 扩散适配器,后者在不使用独立草稿模型的情况下将解码速度提升最高 2.2 倍。

    推荐理由:发布六款开源模型及全量训练数据,提出 MoVA 注意力机制和加速解码的扩散适配器,并披露 10T 合成预训练细节。

  12. arXiv · ML21

    Sense 范式:基于有向距离交叉熵的世界模型方法

    Sense 提出单一交叉熵损失替代防坍缩机制,其有向距离在四个像素环境中检测不可逆过渡的 AUC 介于 0.95 至 1.00,显著优于 LeWorldModel 的 0.39 至 0.59。 该方法无需预测器即可避免嵌入坍缩,在 TwoRoom 导航基准中规划成功率达 100%,且 Cup、Cliff 等场景的规划失败率接近零。

  13. arXiv · ML28

    ST-KF 算法通过边界门控软阈值卡尔曼融合实现跨油藏缺失测井数据重建

    针对测井数据缺失问题,ST-KF 算法融合多分辨率小波收缩与鲁棒卡尔曼平滑,在两个基准的 263 口井中表现最佳,参数开销仅为 0.09%。 该方法在 0.15 至 100 米间隔内优于九个基线模型,密度 RMSE 降低 5.0%–8.3%,压缩速度降低 6.4%–15.6%。 实验表明局部井筒连续性可跨盆地迁移,而跨属性映射随区域地质变化。

  14. arXiv · ML21

    有限深度样本下尖锐首次命中识别方法研究

    论文针对有界Lipschitz连续源逆深度场,刻画了有限采样下的首次命中深度集合,证明了其可能不连通,并提出了共享场景的充要性检验。 基于标量锥不等式的极线减少方法无需枚举表面,在rectified模型中给出了尖锐最坏情况逆深度直径的理论界,并通过十场景评估区分了求解器正确性与假设失效。

  15. arXiv · ML28

    视觉证据如何改变视觉-语言顾问在激励驱动下的误报行为

    研究表明,视觉输入未使视觉-语言模型(VLM)更诚实,其遵循激励的程度取决于读数是否显式化及输出顺序。 实验涵盖 15,170 次试验,覆盖 Qwen2.5-VL、InternVL3、Gemma 3 等 4 个模型,发现添加文本真值可消除偏差。 该研究揭示了纯文本评测与均值偏移指标的盲点,已提交 IEEE 发表。

  16. arXiv · ML38

    Func-JEPA:学习函数 Sobolev 空间作为潜在向量

    提出 Func-JEPA 架构,预训练数学函数编码器,其潜在空间模仿 Sobolev 空间 H^1 且导数作为学习潜在算子。 规范范数由函数精确计算,方向学习匹配 Sobolev 角度;冻结编码器复用于解码、组合、积分及回归任务。 f-JEPA 从噪声样本恢复精确公式的频率高于符号回归方法,但计算机代数在标准基准上更强。

  17. arXiv · ML20

    SAM 扰动的统计重放诊断:NeurIPS 2026 Workshop 论文

    针对 SAM 泛化机制,本文提出“统计重放”诊断方法,通过局部窗口均值和标准差重放扰动。在 ResNet 18 和 CIFAR 10 实验中,纯重放未能复现 SAM 验证精度,混合重放可接近其性能但未复现训练动态。结果表明,多种简化解释被削弱,但 SAM 的核心机制仍未完全解释。