RLVR 可能加剧“支持收缩”而非真正拓展 LLM 推理边界
研究指出,当前强化学习可验证奖励(RLVR)训练常导致“支持收缩”,即丢失的已验证解多于新增的。该现象在提升 pass@1 的同时,可能使模型对既有解法更集中、对其他解法访问减少。该失衡揭示了 RLVR 中的“隐形缰绳”,亟需引入探索新策略以保留旧解并拓展覆盖。
研究指出,当前强化学习可验证奖励(RLVR)训练常导致“支持收缩”,即丢失的已验证解多于新增的。该现象在提升 pass@1 的同时,可能使模型对既有解法更集中、对其他解法访问减少。该失衡揭示了 RLVR 中的“隐形缰绳”,亟需引入探索新策略以保留旧解并拓展覆盖。
该研究提出一种在线分词算法,在保持输出延迟最优(至常数因子内)的同时,实现了近线性时间复杂度。 算法基于 P≠NP 假设确立了条件性下界,表明无法在常数因子内超越该延迟。实测显示,该算法在首 token 延迟上比 tiktoken 快 7.9×–34.8×,吞吐量提升 2.4×–7.0×,且内存占用保持近似恒定。
该扩散模型负向引导方法通过正未标记学习采样自显式目标密度,解决现有方法无法通过增加计算系统降低偏差的问题。 方法在扩散时间步估计样本属于不期望条件的概率,利用条件样本和扩散粒子进行轻量级在线训练,并通过序贯蒙特卡洛校正残余失配,在粒子极限下实现渐近精确。
AtomSearch 采用局部原子编辑与技能状态树搜索,在四个任务五个模型上验证效果。 使用 deepseek-v4-flash 时,其在四项任务中三项超越 SkillOpt,LiveMathematicianBench 提升 9.68 个百分点,且最终技能字符量为对标的 2.3-19.7 倍。 证明局部规则编辑可支持有益修订路径探索并生成紧凑技能。
MA-Bench 基于军事任务分析场景,包含 10 个合成文档包和 1257 项专家编写的通过/失败要求。 最优前沿模型在该基准的评分项中正确率为 62%;模型在事实陈述上得分最高(58%),在推断判断上得分最低(33%),且 60% 的失败归因于遗漏而非错误。 MA-Bench 已公开数据文档、评分规则、提示词及评分器。
提出 Genesis Steering 方法,利用模型自身微调数据中的对比示例推导“创世向量”以优化推理时的激活引导,并建立关于决策边界最优位移和代理估计偏差的理论结果。 在 Tülu-3-8B 上验证表明,来自其训练混合的安全数据产生的引导效果强于外部数据集;Llama-3.1-8B-Instruct 作为对照组显示成员推断(MIA)方法的效果依赖于数据分布方向偏移程度。
提出基于回归的指标元评估框架,通过校准指标输出预测人类评分,并构建覆盖 10 种语言和 4 个维度的多语言风格生成基准。 元评估 32 个指标显示,校准后的字符串和嵌入方法可匹敌 LLM 裁判,并识别了集成优于个体的条件。 该方法解决了相关系数不稳定的问题,提供跨评估设置下指标能力的可比度量。
阿里巴巴 AI2 团队发布 HiRO-ACEv2 系统,能以约 1/300 的成本生成全球 3 km 气候数据,模拟成本远低于高分辨率模型 X-SHiELD。 HiROv2 模型可精准复现极端降雨、风压事件,统计误差控制在 3% 以内,并更新了粗分辨率基础模型 ACE。 该系统为研究人员提供了低成本获取长期高分辨率极端天气数据的途径,未来计划扩展至不同气候背景及新增地表温度、积雪等输出变量。
本文演示了如何通过 Python SDK 部署 Amazon SageMaker JumpStart 预训练模型并进行轻量级评估。 使用示例提示词测试,延迟 9.07 秒,生成速率 16.9 词/秒。 该流程适用于多数模型,但 Payload 格式和实例类型需根据具体模型调整。
面壁智能联合 OpenBMB 社区正式发布并开源端侧多模态模型 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 是全球首个可在端侧无损流畅运行的开源 MoE 多模态模型,在约 3GB 内存的 iPhone 17 Pro Max 上实现每秒 13+ token 的生成速度。
推荐理由:原文披露了 35B 参数 MoE 模型在 3GB 内存端侧运行的具体性能数据与 LES 调度技术细节。
MoMa-SG框架通过统一扭转估计方法,从RGB-D序列构建含铰接物体的语义运动学3D场景图,支持旋转与棱柱关节参数估算。 框架包含Arti4D-Semantic数据集,涵盖62段野外RGB-D序列及600次物体交互,在四足与移动机械臂上验证了真实家庭环境的铰接操作能力。
Hiking in the Wild 是一种端到端感知型腿部跑酷框架,将深度输入和自身感觉直接映射为关节动作,无需外部定位与建图。 框架包含基于可伸缩地形边缘检测和足体积点的落脚点安全机制,以及通过生成可行导航目标来抑制奖励作弊的扁平区域采样策略。 在宇树 G1 人形机器人上的实验表明,该策略支持在复杂地形上以最高 2.5 m/s 的速度稳健移动。
ECLIPTICA 框架通过 CITA 技术实现 LLM 运行时可切换对齐,在 Llama-3.1-8B 上 CITA 指令对齐效率达 86.7%,显著优于 DPO、GRPO 及 PPO。
研究发现 Segment Anything Model 2 (SAM2) 的物体指针能编码肿瘤判别信息,无需针对下游标签优化。 引入任务引导式物体指针,其癌种分类表现优于常规编码器迁移和影像组学。 仅分割监督的指针在更具挑战性的复发预测任务中表现最佳。
Physics基准包含1034道来自博士资格考试的开放式物理问题,用于测试基础模型的解题能力。 该基准涵盖6个核心物理领域,通过基于LLM的评分协议评估数值、符号和文本答案。 测试了53个专有和开源权重模型,结果显示强开源权重模型接近专有模型性能,但多数开源模型正确率仍低于50%。
研究人员提出强化学习框架HD-RL,通过优化大语言模型的解释来校准人类决策,显著提升下游任务中的人类判断准确率。 在AI生成文本检测任务中,默认模型解释导致人类准确率仅为51.3%;应用HD-RL优化开源Qwen 3.6模型后,人类准确率达到63.7%,且超越RLVR等基线模型8%以上。
该研究提出一种基于本地合同条件重写的隐私执行层,用于解决邮件生成 Agent 在远程 LLM 调用中的成本与隐私问题。
作者发布 TontaubeV1 模型,利用 Qwen3 系列架构实现了单卡流式文本转语音,首包延迟约 200 ms。该模型在盲测中 70.25% 的听众认为其韵律优于 Fish Audio S2 Pro,权重已在 Hugging Face 开放。
研究证实轻量级调度策略可在不改模型架构下优化 LLM 服务性能。 团队在 L40S、A100 及 H100 上评估 8 种策略,涵盖 Qwen、Gemma 等模型。Aging shortest-prompt-first 为最优实用基线。
提出统一拓扑签名(UTS)方法以表征文本嵌入空间结构,在多个模型和检索数据集上评估。 实验显示,UTS在下游性能预测方面优于单一指标,能更准确捕捉模型特性、偏差及表征相似性。 研究结果对柏拉图表征假设(Platonic Representation Hypothesis)的全局性论断提出了挑战,为理解几何结构对任务性能的影响提供了新见解。
开源 Python 工具 SCANAR 和 AIDOC 被提出用于通过自动化新闻检索和 LLM 辅助过滤,加速医疗保健领域的前沿扫描。 SCANAR 通过去重和排名自动化检索,AIDOC 利用 LLM 和文本嵌入计算语义相似度,在 95% 召回率下可实现约 65% 的理论人工审查工作量减少。 这些工具有助于缓解方法学限制,支持更广泛、更快速的前沿扫描。
OpenAI 于 10 月 6 日发布包含 722 篇 AI 手稿的公开仓库,涵盖 372 个问题族并声称解决多个著名未解问题。 研究团队从中提取 38 个问题族里的新引理、构造、不等式及证明机制,识别出 11 种跨领域模式。 这些“数学工具”的描述有助于读者理解相关论文,其有效性与新颖性仍属临时评估。
研究人员提出在视频下载前利用 LLM 基于元数据进行预筛选,以降低存储、时间和标注成本。 该方案以四名独立标注员的严格多数投票为基准,并通过 Gwet's AC1 一致性分析验证可靠性。LLM 预筛选方法优于两种基于关键词的启发式基线。
ProAda 通过提示词自适应优化对抗图像,在视觉隐私保护中实现了对有害与合法提示词的区分响应。 在实验数据集上,ProAda 成功拦截超过 90% 的有害提示词,同时放行超过 90% 的合法提示词。 该方法展示了优于现有提示词无关 VLM 对抗方法的性能,并具备跨模型可迁移性和对抗反制措施的鲁棒性。
8500万参数的关系型基础模型 RT-J 引入,仅需数百个上下文示例即可在未见数据集上进行准确预测。 模型在 RelBench 上平均比强特征工程流水线少用 10 倍示例,预训练采用多达 8,192 个数据库单元格的长上下文,并基于 639 个数据库组成的 Join 数据集。该工作推进了关系型数据上下文高效预测的前沿,凸显真实世界语义与大规模预训练的重要性。
DAVID-GRPO 通过专家轨迹播种和证据引导续写,解决小模型在低 rollout 数下的检索崩溃问题。 该方法在 4 块 RTX 3090 上训练 Qwen2.5-1.5B,平均 EM 达 22.6,优于同预算基线 11.9,且实现多轮检索。 代码已开源,为资源受限环境下的多跳 QA 训练提供可复现方案。
FailureSensorIQ 是一个评估 LLM 工业 4.0 推理能力的多选择题(MCQA)基准。 该基准测试了 GPT-4、Llama 和 Mistral 等十余款模型,分析发现即使强推理模型也易受干扰且存在知识缺口。 论文提出了 LLMFeatureSelector 特征选择流水线,并在 Hugging Face 开放了排行榜。
研究团队提出 MFG 强化学习框架,利用多轮反馈指导 LLM 进行分子优化。该框架在 GeLLM³O 上实现 81.50% 平均相似度约束成功率。相比基础模型 70.81% 的得分,MFG 显著提升了迭代优化性能。
研究通过自动翻译英文用户生成内容,探索 LLM 在希腊语抑郁症严重度识别中的应用。 结果显示 GPT-3.5-turbo 在英语任务中表现不佳,在希腊语中表现亦不稳定。这凸显了在低资源语言中开展进一步研究,并保留人类监督以避免误诊的必要性。
ReTerm 基于 Qwen3.5-9B 开发,在 Terminal-Bench 2.0 上实现 34.8% Pass@1,较基座模型提升 14.6 分。 通过构建 ReTerm-10K 数据集与 ReTerm-GRPO 在线强化学习算法,智能体从自身失败状态分叉生成独立恢复尝试,从而提升各类错误下的恢复率。 代码、数据及模型均已开源发布。
DeltaTTG 提出使用 Token-to-Go 作为可观测的剩余工作量代理,以低成本监督信号改善多轮智能体的强化学习训练。
summary_zh: 语言模型评测中的偏差分数常混淆模型偏好与是否作答。在 BBQ 数据集的 28,824 项测试中,对比引导降低了 11/11 类别的模糊分数,但仅降低 8/11 类别的去混淆偏好分数。
针对 158,099 条答案与 468,037 个引用的分析表明,生成式引擎的检索机制比页面属性更能解释引用差异。 引擎搜索检索解释 32% 的引用变异,而页面属性仅占 2.8%。内容主要通过匹配引擎重写的查询语义起作用,而非 FAQ 等结构化元素。 研究在小型 B2B 市场复现了相关发现,并公开了数据与代码。
OpenMobile-2 是具备全开源训练环境的近前沿移动智能体,AndroidWorld 得分 79.9,MobileWorld 得分 50.4。 训练数据包含近 12K 条 SFT 轨迹及 2K 个可执行 RL 任务,MobileGym++ 覆盖 110 个应用。 真实设备迁移使 SPA-Bench 性能从 31.9 提升至 59.6,资源已公开。
跨模型 KV Cache 复用导致安全性不兼容,value reuse 比 key reuse 引发更大偏差。 VReparo 通过离线学习对齐映射,将 HarmBench ASR 降至 39.21%,StrongREJECT 分数降至 0.2163,且保留 85.62% 的 TTFT 提升。 解决了复用加速与安全对齐的冲突。
基于2019至2025年瑞士官方投票手册,构建了包含53项联邦议题的Swiss4Arg多语种平行数据集。该资源覆盖德语、法语、意大利语和罗曼什语四种国家语言,由每种语言的三名母语者标注,并提供了GPT-5.4与SwissBERT的基线结果。 该数据集为多语种论辩挖掘与低资源场景下的跨语言可比性研究提供了新基准,标注与代码已公开发布。
ANTE 框架通过验证编码智能体的动作前预测,将 Qwen3-32B 在 SWE-bench Verified 上的 pass@1 准确率从 25.0% 提升至 57.2%。 该提升比匹配 GRPO 基线高 6.2%,世界模型准确率在强化学习期间从 44% 升至 69%,且能力可跨环境和分布外领域迁移。
提出 InsQL 单步生成策略框架,基于组合平均速度建模消除迭代采样和 BPTT,仅需用单个策略网络避免蒸馏和多阶段过程。推理时通过单次前向传播生成动作,在离线 RL 基准测试和真实机器人操作任务中性能匹配或超越 SOTA 扩散方法,同时大幅降低训练和推理时间。
RIFT 通过计算 Decoder 层中 Token 到答案的最短路径电阻来评估其影响力,无需梯度或额外前向传播。 该工具在 Qwen3 和 Llama 3.2 上以 0.23-0.88 的均值优势超过 Attention Rollout 等基线方法,单个 Token 评分仅需 0.9-3.4 ms。
AINA-KK 数据集包含 3811 个前 ChatGPT 时期人类文本和 5597 个机器生成文本,发现英文训练检测器误报高达 81.4%。 针对阿拉伯字母转写缺失问题,团队构建了 AINA-KK-Det 检测器,在已知生成器上准确捕获 85.2% 的机器文本。 该研究公开了数据、代码和检测器,为低资源语言 AI 检测提供了基准。