MagicBeanStalk:通过递归数据合成克服 RLVR 零优势陷阱
研究指出 88% 的开源数学训练题对目标策略无效,MagicBeanStalk 通过递归数据合成生成校准难度的新题。 在 16K token 预算下,MagicBeanStalk 使 gpt-oss-120b 提升 8.6 分,DeepSeek v4Flash 提升 5.4 分,优于全量数据训练。
研究指出 88% 的开源数学训练题对目标策略无效,MagicBeanStalk 通过递归数据合成生成校准难度的新题。 在 16K token 预算下,MagicBeanStalk 使 gpt-oss-120b 提升 8.6 分,DeepSeek v4Flash 提升 5.4 分,优于全量数据训练。
研究发现,预训练阶段按时间顺序组织知识形成的“专家模型”,比随机打乱顺序训练的“通用模型”更新知识所需的步骤更少。 该研究从第一性原理推导了将更新成本与模型优化动力学关联的定律,并设计了一种保留历史稳定知识且高效更新当前知识的预训练数据组织策略。 这些优势被证实可扩展至现有的预训练模型及知识更新工具,并适用于其他知识排序方式。
summary_zh: TabMF 是一种框架,它利用预训练的表格基础模型(TFM)作为编码器来提取监督数据集的高级表示,该框架在数据集检索和分布偏移监控等任务中表现优越。
summary_zh: 研究团队提出基准测试 TabReliBench,用于评估表格基础模型(TFMs)的后验预测分布可靠性。该基准涵盖点预测、分布质量、校准及区间效率等多维指标。
简单二次模型通过重尾幂律分布输入可复现大语言模型预训练中的间歇性损失尖峰。 作者建立了逐层训练动态的理论框架与模拟算法,针对已知诱发尖峰的 Adam $\beta_2$ 接近 1 配置进行验证。 模拟成功预测了特定检查点的尖峰行为,且推导的 $\beta_2$ 调度方案在实证中改善了性能。
基于 MIMIC-IV 的研究发现,复用预处理管道常导致时间泄漏、特征任务错位及偏差插补。 这三种预处理对齐违规在整体预测性能中往往隐蔽,却改变了模型依赖的信号,需遵循时间有效且临床一致的规范。
研究人员推出在线强化学习框架MORAD,通过多目标奖励联合优化,在结构条件RNA逆向设计中取得新SOTA。 MORAD结合骨架条件分组采样与扩散目标,在预训练模型RIDE上将GDT-TS提升16.0%,配对MCC提升19.4%。
论文提出CAST框架解决跨分词器在线策略蒸馏中的信用分配难题。 该方法在Qwen3-8B到Mistral-7B等模型迁移中,平均性能较基线提升2.45分。 CAST能精确求解KL正则化问题,适用于共享分词器场景。
研究发现强化学习或微调产生的策略差异比单纯模型规模差异更有效。 该论文提出统一视图,将代理专家与参考策略的对数概率比定义为隐式奖励。 这种机制支持跨规模、训练阶段或代际模型的任意到任意迁移。
小模型缺乏强上下文学习导致自我蒸馏微调失效,SynthSelf 方法通过最小化对齐器生成合成数据解决分布偏移。 结合离策略监督与拒绝采样,SynthSelf 在 4 个获取数据集和 14 个保持基准中优于 6 种对比方法,覆盖 3 种小模型规模。 该方法证明了无需打破原始分布即可实现小模型有效持续学习,为低延迟终端设备部署铺平道路。
summary_zh: AlgoPerf V1 基准更新了九项工作负载的训练算法评估,要求提交结果在固定硬件上运行。 该基准包含 13 个 PyTorch 和 JAX 提交,Schedule-Free AdamW 在自我调优规则下排名第一。
提出个性化联邦直接偏好优化(pFedDPO),允许每个客户端在共享基础模型上维护私有 LoRA 适配器以捕捉特定偏好分布。 证明了该分解将联邦直接偏好优化边界中的梯度多样性替换为更小的有效剩余异质性,实验显示其梯度范数低于原生方法且保持具有竞争力的训练损失和每客户端奖励精度。
该研究将参数高效微调方法视为流形映射,通过三个不变量建立分类框架,分析了表达力、训练动态及基底变换。 系统对来自138篇论文的382种方法进行了分类,并证明了如零初始化LoRA位于锥体顶点等关键数学性质。
OSIS 利用短时 MCMC 动力学定义局部目标,实现单步摊销推理。 模型分布收敛为 MCMC 核不动点,效率显著高于多步方法。
STAPLE提出一种将静态稀疏内存集成到预训练模型的新方法,保留FFN上投影并将嵌入作为残差路径添加,避免盲目集成导致的性能损失。 在OLMo-2 1B模型上,STAPLE在HumanEval上比密集持续训练提升4.27分,在GSM8K提升2.27分;在OLMo-2 7B骨干上改进依旧显著。
样本自适应零阶优化(SAZO)通过学习样本重要性并自适应分配查询,加速大语言模型零阶微调的收敛。 该方法无需额外模型评估,仅比 MeZO 增加 O(N) 标量状态,证明其渐近匹配最小方差采样或acles的收敛主项。 在四个模型族上的实验表明,SAZO 提升了平均下游性能,且达到相同训练损失所需的查询次数最多快 6 倍。
提出代数整数量化(AIQ)作为 LLM 推理的有损压缩格式,在相同 bit-per-parameter 预算下,其在多个模型和 benchmark 上的精度表现与行业标准 MX 格式相当。 该框架通过将算术简化为纯整数运算,实现无误差的乘加操作,并利用现代硬件加速器上的矩阵乘法引擎,性能在可预测倍数内接近最高效的数值替代方案。
提出分布无关且具备污染感知能力的框架,通过共形离群检测在完整获取前筛查外部数据。 引入新型两样本检验,Storey 型测试基于 Benjamini-Hochberg 过程实现有限样本误报率控制。 在多种协作学习场景下验证了方法的有效性与鲁棒性,为数据聚合提供统计保证。
summary_zh: 研究者提出 MemCalib 基准及 MemCalib-RL 算法,旨在解决 LLM Agent 内存使用不当的问题。 实验显示前沿开源及闭源模型常过度或不足使用内存,MemCalib-RL 在 Qwen3-8B 等模型上表现最优,平衡了偏差。
LiteGUI 提出轻量级 GUI Agent 框架,利用多解标注和双层 GRPO 提升长程任务表现。 框架包含 Guided On-Policy Distillation 和 Multi-Solution Dual-Level GRPO 两个阶段。其 Lite-Dataset 数据集在多基准测试中超越了 SFT 和 GRPO 范式。
Riemannian Isometric Policy Optimization (RIPO) 通过保证黎曼流形上的等距策略更新,克服了 PPO-Clip 因欧氏度量导致的探索崩溃。 该方法修正了低概率区域更新保守、高概率区域激进的几何缺陷,实现了良好的偏差-方差平衡。 RIPO 在 AIME24 上较 GRPO 提升最高 60%,并在 7 个竞赛级基准测试中显著超越现有 LLM RL 算法。
提出 FBO 与 ITD 求解器,基于 DPVar 指标直接优化平均人口平等,适用于非线性预测器。 支持高维连续敏感属性,在 21 个表格回归数据集及 Communities & Crime 数据上实现更优准确率-公平性权衡。
论文提出 S4oP 框架,通过交替结构化掩码与微调,实现对 S4 和 S4D 模型的系统性算子级剪枝,以平衡推理延迟与预测性能。 实验显示,该方法可移除高达 70% 的模型算子,在大多数情况下保留原模型性能,并显著降低推理延迟。 这是首个系统性研究 SSM 结构化算子剪枝的工作,有助于其在资源受限场景中的实际部署。
GRASP 将数据归因重构为子集级反事实效用预测,提出了一种交互感知代理模型。 该方法基于理论平滑性下界,通过二次几何惩罚显式建模子集交互,并耦合低维特征草图与有限下置信界选择协议。 实验表明其使反事实子集保真度的任务级排名相关系数翻倍,同时将前期工件构建成本降低近一个数量级。
提出FeatCal算法,通过前向顺序逐层校准权重,利用闭式解消除特征漂移,无需梯度下降。 在CLIP-ViT-B/32和FLAN-T5-base基准测试中,FeatCal得分分别为85.5%和85.2%,优于Surgery基线,且校准速度快4倍。
summary_zh: ReSI 提出递归安全改进框架,在四类模型上将平均 X-Teaming 攻击成功率从 86.01% 降至 31.45%,优于前沿模型 GPT-5.6-Luna 的 56.69%。
S2-WEF 方法通过模拟全局模型模仿攻击模式,在服务器端识别跨数据孤岛联邦学习中的动态搭便车者。 该方法结合模拟相似度分数与偏差分数,利用二维聚类和逐分分类区分恶意与良性客户端,无需代理数据集或预训练。 实验覆盖 4 个数据集和 5 种攻击类型,证明其在多种设置下提供稳健的动态检测能力。
VINCIE-NExT 提出统一框架,通过上下文视觉演示将图像编辑能力迁移至视频,避免依赖昂贵的大规模配对视频数据。 该模型将视频编辑分解为“视频-图像-图像-视频”子任务链,引入位置编码在共享空间坐标系中对齐图像演示与视频帧,实现像素级外观传播。 在 OpenVE-Bench 上取得了最先进性能,且无需重新训练即可通过增加计算量提升编辑质量。
扩散模型在实际应用中泛化良好,但最优扩散模型会完全记忆训练数据导致无法泛化。研究揭示扩散模型在去噪训练目标上逐渐过拟合,造成中间噪声水平下验证与训练性能间的泛化差距。
研究证实先验数据拟合网络内部存在可提取的频谱结构,线性探针在7个模型中以R²≥0.95恢复上下文频率。 TabPFN中192个方向里的64个无标签方向承载了85%-95%的因果效应,且Filter Bank Decoder能以约200倍更低成本生成竞争性高斯过程回归核。 该发现证明网络潜空间蕴含可移植的频谱先验,无需测试时优化即可解码为显式核函数。
ResOT 提出一种免训练方法,在推理阶段通过局部分布对齐修复表征以缓解 LVLM 中的物体幻觉。 该方法将主导幻觉方向投影出忠实子空间,利用高斯最优传输对齐幻觉与忠实分布,并通过自适应控制修正幅度。 实验显示 ResOT 在三个代表性 LVLM 上显著降低物体幻觉,同时提升图像描述质量与多模态基准表现。
该框架整合句法结构、语义多样性与分布表征进行核心子集筛选,并能自动适应不同语料库噪声水平。 验证了数据中心 AI 领域中“少即是多”的假设。
提出无特殊观测假设的预测驱动数据融合框架,结合随机对照试验无偏性与大规模观测研究功率,构建 AIPW-Fusion、DR-Fusion 及 R-Fusion 估计器。 框架通过闭合形式权重和置信区间实现精度提升,实验验证了结合小样本 RCT 与大样本 OBS 的有效性,解决了现有方法假设强或偏差高的问题。
该研究提出了一种检测未经授权的模型蒸馏攻击的方法,通过比较嫌疑模型对教师模型推理输出的预测能力,并利用影子模型将得分转换为校准的 p 值进行显著性检验。 在初步研究中,使用 Qwen2.5-7B 作为教师模型,Llama-3.2-3B 作为嫌疑模型,在 0.02 的显著性水平下,该测试达到了 1.0 的真阳性率。
研究人员提出生物启发激活函数 HAND,将其应用于 CNN 后显著提升了模型在图像分类中的泛化能力与样本效率。
提出特征空间适应方法改进 FlowGP,首次实现高斯过程流(FlowGP)内部的超参数优化。 通过引入核函数近似支持高分辨率域扩展,并基于扩散引导所需的功测量边际似然,解决了现有方法依赖人工指定超参数且迭代成本高的痛点。 该方法成功应用于概率降尺度、不规则域偏微分方程解推断及非高斯卫星观测海面异常场恢复等场景。
GloFND提出了一种基于优化的方法,用于在自监督对比学习训练过程中自动学习阈值,从而在全局范围内识别假负样本。 该方法计算成本独立于数据集大小,且在图像和图文数据实验中被证明有效。 论文已被ICML 2025接收。
研究证明,使用无字幕、无文本损失的原始视频对 Qwen3-1.7B 进行中间训练,可显著提升模型在视觉基准上的表现。 在四个视频基准上平均提高 2.9 分,十个图像基准上提高 5.1 分,且在 14 个文本基准上保持性能(平均 48.9 分,未训练模型为 48.0 分)。 结果表明,预测下一个视觉 token 优于预测字幕,证明视频中间训练可保持纯自监督,无需承担自动字幕生成的计算开销或标注噪声。
PSCMIA 提出一种功耗侧信道成员推断攻击(MIA),能在不提供预测概率或标签的情况下,直接从嵌入式模型的功耗追踪中推断样本是否参与训练。 实验覆盖 MNIST、FMNIST、CIFAR10、CINIC10 等数据集,FC 和 CNN 架构,以及 STM32F3、XMEGA 平台;FC 模型 ROC-AUC 最高达 0.907。
研究团队推出覆盖声学感知、类别识别等四大任务的基准 BEANS-Next,以及大规模训练资源 ROOTS。ROOTS 整合了扩展后的真实世界数据、行为与声学元数据及合成生成。