小语言模型中自一致性投票的隐藏成本研究
在小语言模型中,固定使用自一致性投票往往比贪婪解码更差,主要因投票机制将正确结果翻转为错误。研究在 Qwen-2.5-0.5B 和 Gemma-3-1B 上验证,在 MATH-500 等任务中,自一致性准确率仅为 15-36%,且比贪婪解码低 3 个百分点。
在小语言模型中,固定使用自一致性投票往往比贪婪解码更差,主要因投票机制将正确结果翻转为错误。研究在 Qwen-2.5-0.5B 和 Gemma-3-1B 上验证,在 MATH-500 等任务中,自一致性准确率仅为 15-36%,且比贪婪解码低 3 个百分点。
研究者提出P2O与PKTO算法,统一了DPO隐式奖励与PPO信任域稳定性。P2O在DPO偏好边缘引入截断重要性比率,PKTO则结合前景理论效用边缘,均无需奖励模型。 两个算法在多LLM的三个偏好基准上,对齐质量匹配或超越DPO与KTO,且在重复数据集复用时稳定性更好。代码库已开源。
提出可解释的 AI 指导数学发现框架,通过部分形式化的 Lean 蓝图迭代精化证明,改进解析常数的定量界。
该研究探讨无真实值标签场景下的人机互补性评估方法,提出以基于多准则决策分析的背景依赖性“适当性标签”替代真实值,并通过两步评分流程显式呈现规范选择。 方法受计算可靠性启发,识别支撑适当性标签构建的技术、科学与社会因素。 此举将人机互补性的实证研究拓展至预测任务之外,使其在真实值不适用时也能进行量化评估。
推理配置显著影响模型表现与成本。实验显示仅更改最大响应长度,使数学基准准确率从0.08%升至93.18%。 内容涵盖评估、生成、服务及结构化输出。提供了记录推理运行、容量估算与系统公平比较的实践指南。 旨在帮助研究人员和工程师理解、复现并信任推理结果。
AbductionBench 提出统一框架,在 27 个数据集和 10 个领域上评测 8 个大语言模型。 该基准将最终答案评估与可观察推理痕迹分析分离,涵盖证据使用、假设比较及不确定性处理。 Jev 模型在短证据解释选择上表现良好,但在长案例及假设修正方面显著落后,凸显了多视角评估的价值。
论文构建了基于统计物理的变分几何理论,描述 Transformer 注意力机制与 token 表示在固定参数下的联合演化。 该理论引入了注意力的自由能,并将其演化建模为 Fisher-Rao 梯度流。证明了在固定 token 表示下,softmax 矩阵是唯一的自由能极小值点,且任何正向注意力轨迹均收敛于该点。 进一步证明了注意力流的适定性,并建立了三个耦合系统的能量耗散规律。
WARP-JEPA通过冻结世界模型和摊销规划,在30个H-JEPA模型上将长时程任务推理速度提升9.6至18.8倍,任务成功率提高33.3个百分点。 该框架采用世界模型在环因果Transformer和多残差MLP,结合基于模型的代价与最佳K行为克隆训练,无需测试时梯度优化。 结果表明摊销规划可在不重训练世界模型的情况下,显著提升推理效率与控制性能,代码已开源。
在 PushT 环境中,Beam search 使冻结 ACT 策略的任务成功率从 0% 提升至 18%,平均累计奖励从 39.44 增至 103.2。 提出 One Step Ahead (OSA) 门控机制,在保持或提升成功率的同时,较全量 Beam search 将运行时间缩短约 3 倍。 消融实验表明增加搜索预算并不一致地改善性能,未来工作将扩展至语言条件 VLA 模型及物理机器人。
Detent 将内核选择表述为可执行程序,在 Llama-3.1-70B 和 Qwen3-30B-A3B 的多 GPU 部署中实现批次不变推理,输出 token 延迟仅为标准模式的 1.04-1.17 倍。 该方案在 SGLang 中匹配确定性模式 GSM8K 准确率,覆盖多种引擎、GPU 代际及 MoE 模型,支持 RL 滚动比特级复现。
该研究将 Mechanism-AI 耦合动力系统的不确定性量化问题,形式化为概率密度空间上的能量泛函最小化。模型在 Wasserstein 和 Fisher-Rao 度量下统一描述梯度流,并利用抽象伴随敏感性分析求解数值梯度。该方法为动力系统建模及异质性演化研究提供了几何视角。
MetaBFM 是一种混合方法,旨在扩展行为基础模型(BFM)以应对元强化学习(meta-RL)的四大挑战:环境识别、在线数据收集、测试时探索及混合奖励监督学习。
CALFA-KV 通过联合校准与 Fisher 引导锚点实现 1-bit KV cache 压缩,在 7 个基准测试中优于所有 1-bit 基线。 该技术在线阶段利用敏感度加权重建误差,保留高评分状态的高精度存储,每层每 KV 头预算 56 个 FP16 锚点。
HexIt 将多面体六面化分解建模为序列决策问题,采用克隆策略结合专家迭代优化。 在保留凸实体测试中,最终策略期望解决率为 94.4%;专家迭代将大凸体最佳解决率从 0.203 提升至 0.355。 同等计算量下 PPO、GRPO 和 VinePPO 更新均使克隆策略性能下降。
MLLMs因模态推理访问差距难以直接利用视觉内容进行推理。TIGER利用合成渲染文本图像及GRPO后训练,桥接该差距。 模型在MathVerse、MMMU等基准上性能提升,辅助路径与文本推理状态对齐。
提出 Agentic RAG 框架 PatternBloom,将检索单元从内容转移至逻辑,通过外部化程序性知识突破推理深度瓶颈。 采用两阶段 RL 训练:第一阶段利用信息密度奖励(IDR)评分证据图,第二阶段通过模式增强奖励(PAR)结合图模式记忆(GPM)。
在 Qwen2.5-7B/32B 与 GPT-OSS-20B 测试中,研究发现候选行动的相对价值可从中间隐藏状态线性解码,即使策略选择了较差行动。 沿读出方向干预效果有限且不一致,而基于自然价值传输(NVT)的变换在后期层更一致地影响行动偏好。 结果揭示 LLM 智能体可能表征了前瞻价值却无法可靠转化为策略选择,并验证了闭环控制器可改善任务结果。
确定性扩散采样轨迹存在一种与数据模态及扩散模型实现无关的通用几何结构。 该结构可通过基于最优线性去噪器的精确可解模型加以解释。 此发现为以原理化方式推进扩散模型的训练与推理奠定了基础。
D-REAL 提出一种后训练方法,直接优化固定解码上下文下的期望接受长度,旨在提升投机解码效率。 在 Qwen3-8B 目标模型的 10 个基准测试中,D-REAL 将平均接受长度提升至多 0.23 tokens。 该方法使端到端服务吞吐量提升最多 9.4%,并在 DSpark 和 DFlash2 架构上验证有效。
该框架分离检索与审批,通过匹配缓存响应的安全条件生成风险分数,并结合校准的路由策略选择直接复用、选择性验证或重新生成。实验表明 SafeCache 在可比缓存效用下实现了更优的安全-效用权衡。
研究揭示 LLM 预测器评估中更新斜率指标的两个混杂因素:结果感知证据构建会使测量斜率比盲测结果高出约 4 倍,且更新斜率存在依赖先验校准的结构性上限。在 Manifold、ForecastBench 和 ACLED 数据池中,以先验校准为条件可使中间更新与最终 Brier score 的关联强度提升约 3 倍。
提出即插即用验证器框架以稳定长程智能体推理。该框架通过解耦过程验证,利用领域特定验证器评估中间推理工件,并生成有界过程奖励。 在 Qwen3.5-4B 模型上结合稀疏结果奖励进行两阶段后训练。在 HotpotQA 基准测试中准确率超过标准 GRPO 基线。 结果表明该模块方法能学习更稳定可靠的长程推理行为。
研究揭示了线性状态空间模型(SSM)和线性自回归模型在共享参数下的隐式偏差机制。在指数损失梯度下降下,方向收敛至有效度最大间隔问题的 KKT 点,仅有效度最小的样本构成硬边界约束。 该结果指出长度偏差成因:更长的输入序列或额外自回归步骤会提高样本的有效度,导致最小有效度样本主导极限分类器,且非齐次性改变了经典齐次隐式偏差结论。
提出物理引导初始化方法,利用未标记输入的物理信息预训练,显著提升模型数据效率与泛化能力。 在多样化偏微分方程基准测试中,该方法在相同标签预算下错误率降低最高达62.7%,且能用少90%标签达到相当或更优精度。
当前前沿AI在编程、数学及长时程任务上的能力使递归自我改进(RSI)从概念走向可行。 文章指出缺乏评估RSI结果的清晰框架,并对多方参与下的博弈选择进行了快速分析。 RSI引发业界对安全性及启动条件的广泛关注。
PISA-E 在四个 LLM 路由基准测试中,以最高宏平均任务性能表现优于最强集成竞争对手,ID 条件下领先 2.09 个百分点,OOD 条件下领先 2.87 个百分点。 该方法通过联合选择集成组合与基数,在无需重训练的情况下动态调整成本与质量偏好,显著降低推理开销。 在部分低成本运行点,PISA-E 相比最强竞争对手,平均推理成本降低约 36% 和 25%。
提出 AutoEMatic 运行时自适应混合精度推理框架,通过熵和隐藏状态更新信号动态调整权重、激活及 KV cache 精度。 基于 NVFP4 底层构建 AutoFP 多尺度浮点格式,实现 2、4、6 bit 精度;在 GB300 GPU 上保持 90-98% 的 NVFP4 解码吞吐量。
CoMixKV 提出协同混合精度 KV Cache 量化方案,通过在线敏感度估计与联合位宽分配,在共享内存预算下优化 LLM 多智能体系统的内存瓶颈。该框架无需校准数据或额外模型推理路径,利用局部注意力误差界计算敏感度,动态调整新量化块的位宽。在 Qwen3-32B 上实现 1.38x 推理加速,峰值内存降低 32.08%,显著优于全精度 KV Cache 基线。
该框架通过在潜空间模拟中迭代变换场景,实现了视觉语言模型空间推理的测试时扩展,无需生成像素。 在 VSI-Bench、MMSI-Bench 和 MindCube-Tiny 上,WorldMind 较基础模型平均提升 16.0%,较最强基于 RGB 的世界模拟提升 8.3%。
LoRazor 提出结合早期释放适配器与感知活跃行的 GPU 内核,在两个骨干模型和四项任务上将请求吞吐量提升最高 3.02 倍。 其机制是动态调整 LoRA 内核启动以修剪空闲 GPU 块,同时将平均相对任务准确率降低控制在 2.89% 以内。
TE-BPHD 架构通过结合偏对称端口哈密顿守恒与非互易定向传输,消除深度推理中的漂移悬崖,将深度 10 的循环推理准确率提升至 90.0%(±0.8%),超越 Transformer 基线。该架构证明在无外部范数投影下实现无条件输入状态稳定性与指数收缩,并支持零重训练的自适应 Lyapunov 停止机制。平均求解器评估次数减少 44%,且对准确率损失影响极小。
提出策略多样化强化学习(SDRL)框架,训练开源 LLM 解决工业级优化问题。 该框架通过正确性门控的层级多样性奖励防止策略坍缩,支持自包含文本与文件基实例混合训练。 在工业级优化任务上,SDRL 的平均性能优于 DeepSeek-V4-Pro 和 GPT-5.5,代码与数据已开源。
PoEM框架提出无需重新训练即可预测新奖励函数下的RL策略结果,利用已有策略在log-probability空间的低秩子空间特性进行线性组合近似。 该算法仅需基于奖励或基策略在样本上的输出估计组合权重,在开放式生成、数学推理、工具调用及图像生成任务中验证了预测有效性与计算效率优势。
提出RLSR对齐框架,针对风险-覆盖率曲线下面积(AURC)指标优化大语言模型选择性预测性能。 该方法在LLM后训练阶段实施,相比现有基线在域内与域外任务中均显著改善了风险-覆盖率权衡。 论文已被NeurIPS 2026接收。
文章指出 RMSNorm 图表的标架为带符号置换群 B_d,仅做置换对齐存在对称性缺失。 实验表明,忽略符号会导致权重更新误差增大,Qwen2.5-1.5B 在 B_d 传输下 SST-2 准确率保留 0.944,而 S_d 仅为 0.523。 该方法被 NeurIPS 2026 接收,验证了坐标名称仅在明确 B_d 标架下可复现。
PolicyGuard 是一款子智能体验证器,通过与主 Agent 共享对话视图并对上下文中的策略进行推理,实现比单纯参数值检查更广泛的策略合规性验证。在 τ²-bench 航空数据集上,该工具使 GPT 5.4、Claude Sonnet 4.6 和 Gemini 2.5 Pro 的 Pass⁴ 指标分别提升 12.0、6.0 和 12.0 个百分点。
大型推理模型(LRMs)在评估推理时表现远差于生成,前沿模型在VAIR数据集上得分低至52%,而生成解题接近满分。 链式推理分析显示模型存在答案确认偏差,倾向于验证答案而非逐步核查,即使发现异常也编造合理化理由。 线性探针与因果修补证实答案有效性是偏差因果因素,揭示了当前推理训练范式的显著局限。
研究发现,在代码RL中通过权重空间外推可同时放大或抑制不期望行为,揭示了正确性与效率的边界。 实验在32B和7B模型规模下进行,涵盖纯推理、工具使用及代理编码场景。 该方法为利用松散奖励及权重差异向量来抑制奖励作弊行为提供了简单干预方案。
CARL 通过段级信用分配训练 LLM 工具调用,在 7B 模型上将三个搜索基准平均准确率提升 6.7 分。 CARL 利用代码围栏等自然边界分解 rollout,从单一二元结果独立计算各段优势,无需外部评判。 在 7B 规模下,CARL 的工具调用率比 Search-R1 PPO 低 53%,准确率却高出 9.8 分。
提出保形聚合方法处理 CoT 推理的聚合不确定性,替代多数投票,提供置信错误率的有限样本保证。 该方法在推理时运行且无需再训练,在 GSM8K 基准上以低于 10% 的置信错误率实现了 90.1% 的选择性准确率。 被 NeurIPS 2026 接收。