MLR:利用结构化多层级建模增强语言模型推理
summary_zh: 提出多级推理(MLR)方法,将长CoT重构为高层规划器与低层执行器的两级随机过程,解决长程规划漂移导致的推理失败。 采用轻量级LoRA模块实现高层策略,并引入迭代Step-DPO结合TSMC提供可规模化的逐步监督。
summary_zh: 提出多级推理(MLR)方法,将长CoT重构为高层规划器与低层执行器的两级随机过程,解决长程规划漂移导致的推理失败。 采用轻量级LoRA模块实现高层策略,并引入迭代Step-DPO结合TSMC提供可规模化的逐步监督。
RLVR 训练使 OLMo-2-1B 在 GSM8K 的首次尝试准确率从 58.0% 升至 61.3%,但 256 次采样的解题覆盖率仅从 94.5% 微增至 96.9%。 内部探针检测推理错误的 AUROC 保持在 0.798 至 0.840 之间,显示模型未建立更清晰的错误表征;仅在最终答案 token 处探针达到 0.93 AUROC,证实 RLVR 改变的是答案选择偏好。
MXCode 提出三种策略,将向量量化压缩与 MicroXcaling FP4 计算结合,实现约 2 bits/weight 权重存储且无需生成高精度中间权重。 在 Qwen3 (235B)、DeepSeek-R1 (671B) 和 GLM-5.2 (753B) 上评估,Qwen3 (235B) 在 GB300 上模型加载内存比原生 FP4 低约 50%,P90 TTFT 最高提升 94.5%。
AgentHop 发布 1011 道选择题及七工具沙箱,拆解检索、合成、工具调用等资源管理四轴评估。 覆盖 19 个模型发现显著家族特征:GPT 早期提交,DeepSeek 与 Kimi 过度搜索。 论文已被 NeurIPS 2026 接收并开源完整测试集与测试框架。
实证研究表明,编码智能体在跨任务持续进化时存在严重灾难性遗忘。 实验发现,在 FeatureBench 上迭代进化会导致 SWE-Bench 性能大幅回落,甚至相对下降 66%。 该发现揭示了智能体持续自我进化面临的稳定性瓶颈与优化方向。
summary_zh: 研究揭示当前 AI 科学家难以复制已发表论文结果,存在科学记录与自主智能体需求间的根本错配。 团队推出基于 MCP 的虚拟环境 OmniQ,评测 59 篇论文及 5 种 LLM 智能体系统;开发 Residual Agents 提升性能,将 DeepSeek V4.1 Flash 成功率从 68% 提至 85%。
提出AttentionIndex,通过倒排索引分组与原生打分优化稀疏注意力检索,提升预填充吞吐。在GLM-5.3和DeepSeek-V4-Flash百万token场景下,预填充吞吐达1.3-1.8倍,较HiSA提升18.4个百分点准确率。
summary_zh: 混合语言模型中,线性注意力直接参与构建 softmax 注意力的查询,而非仅压缩上下文。 在 Qwen3.5 和 Granite4.0 中发现 Encode-Address 电路;跨架构移植 Address 块可在不更新权重的情况下恢复 0.92–0.94 的检索准确率,且大规模模型中该计算趋于分布式。
Kimi 开放平台推出 Admin API,支持企业自动管理成员、项目、密钥及账单用量,替代控制台手动操作。 接口免费,完成企业认证后自动开通,当前为 Beta 版,可查询审计日志并配置项目预算。
研究对比了 OLMoE、DeepSeek-V2-Lite 和 Moonlight 模型中无训练专家剪枝的替换算子,发现存活门控缩放是最大影响因子,常规重归一化操作会导致 0.8-8.5 分精度损失。
提出免训练方法 Verify--Backtrack Loop (VBL),通过双时间尺度验证与故障归因,将 ReAct 的前置条件发现转化为结构化规划状态更新,以提升长程交互任务中的失败恢复能力。
研究提出结构保持专家剪枝框架,包含PEEP与DCEP两种方法,以解决MoE模型部署时的显存开销问题。 实验显示,在DeepSeek-V2-Lite和Qwen3-30B-A3B模型上,该方法在75%和50%专家保留率下,于多数基准测试中优于现有最先进基线。 该方法通过贪心策略优化专家子集选择,兼顾专家全局结构关系与局部重要性。
面壁智能今日启动 ForgeKernel 演示,Agent 在 10 小时内性能超越 DeepSeek V4.1-FlashMLA Prefill 算子的 FlashMLA 基准水平。 预计明日直播结束前,其性能还将继续爬升。
研究者提出 FAQ 方法,将大语言模型基准测试视为有限总体推断,在固定查询预算下追求紧置信区间。 该方法利用贝叶斯因子模型和混合方差缩减策略自适应选择问题,在两个基准套件上比基线方法带来高达 5 倍的有效样本量增益,且计算开销可忽略。 代码和数据集已开源以支持可复现性。
论文提出 Q-Guided Flow (QGF) 强化学习算法,通过测试时策略优化替代不稳定训练,在单任务和目标条件离线强化学习基准上超越现有测试时方法。 该算法利用预训练的流策略和价值函数,在测试时用价值梯度引导生成高价值动作,避免了演员-批评家训练的不稳定性且运行成本更低。 QGF 展现出随模型规模扩展的良好特性,为使用高维动作空间的机器人控制提供了实用且高效的强化学习替代方案。
summary_zh: 研究者推出 CodeSpecWeave 框架,通过合成 4,670 个训练任务和 2,865 个代码仓库,显著提升了编码智能体在长程软件开发中的表现。
研究提出组件反转翻译方法,固定行为与译文数量,独立分配英、中、西语言以评估9种配置。在Gemini 2.5 Flash和DeepSeek上,拒绝率互换效应未通过Holm校正;Mistral Small 4显示13.7点的西班牙语互换效应,且通过敏感性校正。 该评估框架强调记录组件语言与译文数量,将拒绝与不安全顺从分开解读,为多语言安全测试提供额外维度。
研究测量了13个开源检查点在从基础模型到偏好优化各训练阶段的谄媚行为,识别出源于提示词顺从与对话屈服两种不同模式。 基础模型普遍存在对提示词声明的顺从,且排序与后训练模型一致,而对话中放弃正确答案的屈服行为在后训练检查点中普遍出现。 这些结果影响了对谄媚行为的评估策略及针对两种行为的不同治理方案。 ```
面壁智能 ForgeKernel 在直播中基于 DeepSeek-V4.1 真实负载生成算子,正面挑战官方开源的 FlashMLA Prefill。该算子驱动 DeepSeek-V4.1 旗舰模型,代表手写算子顶尖水准。活动将于 10 月 29 日上午 10:00 在直播间进行。
百灵开源 Ling-3.1-flash-1019 和 Ling-3.1-flash-base,支持 Personal Agent 场景下的长程任务。
LiteTopK 是一种融合 Indexer-TopK 内核,针对长上下文稀疏注意力中全量分数矩阵导致的显存瓶颈,通过采样估计分数范围并分箱,仅回写有希望的候选项。
EffiBench-X是一个支持Python等六种语言的新基准,发现最先进大模型代码效率显著低于人类专家。 Qwen3-32B生成的代码平均效率仅约为人类的62%,且模型在Python、Ruby等语言上的效率优于Java、C++和Golang。 该基准揭示了优化大模型代码生成效率的紧迫需求,相关数据集与评估基础设施已公开。
CRISP 框架通过协同设计剪枝和运行时调度,在记忆受限的边缘平台上提升 MoE 推理效率。 该框架利用专家组合的频率偏差和不对称性,按重要性重排神经元,并对热点、温点和冷点组合执行差异化调度,实现专家加载与计算重叠。 在 Mixtral-8x7B 和 DeepSeek-MoE-16B 上,相同内存预算下吞吐量提升最高达 2.1 倍,精度损失控制在 3.6% 以内。
模型排名对评分规则高度敏感,严格匹配与跨模型评判下Spearman相关系数为-0.273且无显著性。 严格匹配准确率75.12%至89.66%,评判准确率87.19%至94.83%,综合制度下DeepSeek-R1-Distill-Llama-70B并列第一。 36.5%的条目无法区分模型,该基准揭示了单一准确率指标的局限性。
LISA 提出一种即插即用的自注意力替代方案,将长链式思维推理的计算复杂度从序列长度的二次方降低为线性。该方法结合线性注意力分支与 Lightning Indexer,通过动态稀疏选择优化计算资源分配。 在基于 Qwen 的实验中,LISA-1.5B 模型在 16K 上下文下将平均样本延迟降低 23.9%,同时在九项数学与代码推理基准测试中,其平均准确率比全注意力基线提升 4.2 个百分点。
DEPO 框架引入在线难度估计器,在 rollout 前动态过滤训练数据,将计算资源优先分配给高学习潜力样本。该机制使 rollout 速度比 DAPO 快约 1.86 倍,且在可比训练成本下基准性能优于 GRPO。 DEPO 通过缓解 GRPO 在过易或过难问题上因组间优势消失导致的梯度信号衰减,显著降低了高性能推理模型训练的计算门槛,为推理扩展提供了更可持续的路径。
Re4 框架通过协同推理 LLM 链提升科学计算代码生成成功率,显著降低非物理解比例。 该框架集成 Consultant、Programmer 和 Reviewer 三个模块,实现代码自动调试与迭代修订。
该研究提出 HiMA-Ecom 基准,包含 22.8K 个实例,其中 17.7K 个携带记忆条目,用于评估层级多智能体电商助手在累积上下文中的训练与管理。 基于该基准,HiMA-R1 采用 VR-GRPO 控制轨迹预算,利用 3B 和 7B 开源模型,平均性能超 DeepSeek-V3 6.0 分,且驱动式记忆将收敛所需更新步数减少约 55%。
针对 LLM 智能体基于软件需求生成测试的现状,发布基准 Req2Test-Bench。该基准包含来自 8 个开源项目的 5,086 个执行验证实例,涵盖 5 种编程语言,并要求智能体在隐藏实现代码的情况下生成测试。
针对量化条件内存中基于访问频率优化反而变差的问题,GateRQ 利用门控信号决定检索精度,无需重训即可运行。 在 DeepSeek-V4.1-Flash 上,GateRQ 使 GPU 表内存减少 7.8 倍,vLLM 吞吐量提升 11%-31%,且 PopQA 分数仅损失 1 点。
summary_zh: CrossProfile 基准指出,在隐藏特征任务中,基于相关性或罕见性的记忆筛选策略均存在显著缺陷。 相关性筛选会引入干扰项,相比罕见性筛选在经典配置下损失 23 至 31 分;罕见性筛选平均效果等同于随机选择,且决策模型中社会证明效应导致额外误差。
kw-bench 针对审计等调查性任务发布新评测基准,使用 DeepSeek v4.1 Flash 实测显示独立 harness 得分 0.542 与 0.528。 前沿模型如 Claude Opus 5.5 仅需 22-25 分钟完成任务并得分近 1.0,将数周工作压缩至数分钟。 低于前沿模型时,harness 决定模型能走多远,而前沿模型则彻底改变成本与效率结构。
RefactorProof 发现 LLM 生成证明在程序重构后表现脆弱,结构 PSR 介于 4.3% 至 26.8% 之间。 测试基于 458 个 Lean 变体,DeepSeek-Prover 和 Goedel-Prover 表现优于参考证明,存活率高 15.6 至 20.3 个百分点。 研究被 NeurIPS 2026 Workshop 接收,旨在衡量证明稳定性,而非修复证明的成本。
科学发现方法论因领域而异且动态演化,传统大语言模型引导的进化搜索框架依赖固定程序或受限组件,难以应对运行时新挑战。研究团队提出 Organon,一种递归自改进智能体框架。
Repotrace 提出了一种需求驱动的仓库理解框架,通过构建需求-代码对应关系并注入智能体上下文,解决多轮交互中需求焦点错位的问题。
研究提出基准 AgentProofBench,用于评估 Web 智能体可复用验证器,涵盖 97 个任务和 4 个 Web 服务。 利用 DeepSeek Flash/Pro 测试发现,部署状态面板正确率能区分不同程序的执行结果,为衡量验证门控价值提供基线。
ProtAgent-8B 通过两步后训练流程,在真实生物信息学工具闭环协议中取得 61.00% 成功率的标注覆盖度。 该指标高于 DeepSeek-V3.2-Thinking 671B 的 41.60%,且优于最强前沿系统的 60.80%。模型采用 SFT 与 REINFORCE 算法,通过步级信用分配显著提升了策略表现。
Aerial-R1 是首个通过强化学习机制增强空中视觉推理与分割能力的 MLLM 框架。该模型借鉴 DeepSeek-R1,引入 H-GAWR 策略以适配非自回归掩码生成,并建立显式拒绝机制以抑制模型幻觉。在 VSAI-Ref 基准测试中,Aerial-R1 的分割精度显著超越 SFT 基线,有效缓解了低信息场景下的严重幻觉。
研究人员提出基于图灵测试的领域教师测试范式,利用模型被误认为教师的概率作为强化学习奖励。 该范式使用 DeepSeek V4 Flash 作为教师,训练 Qwen2.5-1.5B 学生在无标准答案时学习。 结果显示学生模型在 CommonsenseQA 等多个独立领域评测中性能均有所提升。
研究团队将验证视为 Agent 框架测试时扩展的关键维度,在 Terminal-Bench 和 SWE-bench Verified 上对比了7个前沿编码模型的17种验证设计。