视觉基础模型数据高效微调实证综述:VP、LP、FFT 与 LoRA 的比较
该研究实证比较了 Attention、卷积及 Mamba 架构的视觉基础模型在 Visual Prompting (VP)、Linear Probing (LP)、Full Fine-tuning (FFT) 及 LoRA 下的性能。
该研究实证比较了 Attention、卷积及 Mamba 架构的视觉基础模型在 Visual Prompting (VP)、Linear Probing (LP)、Full Fine-tuning (FFT) 及 LoRA 下的性能。
研究提出 PARALLELEVENTS 基准和 SYNAPSE 训练框架,以解决 LLM 静态预训练语料导致的知识过时问题。 PARALLELEVENTS 通过模拟虚构且逼真的未来事件实现可控评估,SYNAPSE 则利用模型生成数据进行指令微调,以 14.23 个百分点的 QA 准确率提升验证了方法的有效性。
研究者提出免训练方法 Causal Attribution Pruning (CAP),通过测量注意力头因果影响指导权重剪枝,在 20% 稀疏度下于 ARC-Challenge 比 Wanda 提升 61% 准确率。
针对数字健康干预中体力活动(PA)长期维持难的问题,研究者开发了在线强化学习(RL)系统。该系统基于专家指定的因果有向无环图(DAG)作为设计工具,优化状态构建、部分观测估计及延迟信用分配,以改善PA情感关联。 系统利用既往微型随机试验数据构建纵向模拟器,在部署前评估候选RL设计在真实状态演化、缺失值及参与者异质性下的表现,提升了长时程个性化RL在数字健康干预中的实用性。
提出 SynthAPI 流水线,在 458,752 个任务和 849 个模型中推导预测工具使用智能体泛化能力的扩展定律。 发现增加工具和数据库多样性比增加任务数量更有效,且提升数据复杂度能带来更大收益。 遵循此扩展策略训练的智能体在四个基准测试中优于先前工作生成的模型。
提出在线调度器 EnvSched,通过利用与覆盖策略分配批次,提升 Agent 强化学习效率。 构建双关系图预测任务奖励方差,在 Qwen3-8B 上 40 步训练即超越随机调度 120 步效果。
SERF(自正则化流语言模型)提出一种无外部预训练模型的自监督框架,通过噪声到干净自蒸馏提升连续扩散语言模型性能。 在OpenWebText数据集上,SERF实现7.7倍训练加速,MAUVE提升24.3%,GSM8K准确率最高提升28.8%,采样步骤减少最高达64倍。
该研究提出 Live-OPSD 在线策略自蒸馏方法,利用特权提示监督模型在流式上下文中的自身输出分布,以优化响应时机与内容。在 Qwen3-Omni-30B-A3B 上,该方法在 LiveProBench 获得 59.64 分,比最强 SFT 基线高 5.26 分。
BrailleBench 基准包含 259 张真实世界一级和二级盲文图像,通用视觉语言模型直接转写表现差,而工具辅助系统表现更好。 基于 2B VLM 在合成盲文数据上训练后,在一级盲文上达到 87% 精确匹配,在二级盲文上达到 61% 精确匹配,优于独立运行的 VLM。 结果表明合成数据监督可改进真实场景下的盲文转写,但在合成验证集上高达 96% 准确率并不保证在真实照片上表现良好。
研究者构建了一个持续预训练语料库,通过一次 QLoRA CPT 运行植入五个开源模型,旨在让模型在压力下保护生物系统而非进行“绿色伦理洗白”。 测试显示,耦合福利训练使四个模型在最高压力下的有害决策降至零或接近零(如 Llama-3.3-70B 从 300 次降至 0),MMLU 保持不变,且效果优于中性对照组。
基于 2025 年 FMTI 指标审计 17 个模型家族的 41 个条目发现,后续发布未一致保留早期预训练披露,11 次对比中分数下降。 审计追踪 24 项指标在 24 组相邻对比中的变化,总共有 38 项指标损失和 28 项增益。 OLMo-2 和 OLMo-3 总分相同但存在三项增益和三项损失,Llama-3.1 总分提升却失去两项数据标准信用。
新框架结合人类 curated 词表与少量样本,利用 Zipf 分布采样生成低资源语言文本。 在词汇多样性与流畅度评估中,推理增强型 LLM 表现优异。 该研究为低资源语言合成数据生成提供可行路径。
提出 S3R 与 S3R-EC,通过子空间共享随机阈值消除偏移误差,使 INT8 训练验证损失与独立 SR 持平。 在 TPU v5p 上,S3R-EC 使密集 LLM 全量 INT8 训练步骤较 BF16 加速 1.24-1.32 倍,较独立 SR 加速 1.11 倍。
针对多语言语音识别中数据采样依赖人工启发式设计的问题,提出一种语言感知的智能体数据采样框架。该框架引入 LLM 智能体,基于音系、形态和句法分析 ASR 错误,并结
CONCUR 提出了一种优势估计器,通过约束辅助奖励分数解决 LLM 多任务强化学习中辅助奖励逆转主奖励排序的问题。 该模型在数学、代码等四个领域测试中,性能均优于所有基线及移除辅助奖励的方案。
研究基于 ModernBERT 架构在 9B tokens 开放数据上训练了 12M 至 1B 参数规模的冰岛语编码器。1B 模型在全部 11 项评测任务上显著优于 IceBERT,同等参数下性能最佳。
该研究提出了神经网络训练的动态粗粒化框架,通过定义学习算子并建立下降定理,实现了在远小于参数空间的状态空间中对训练过程进行预测和控制。 论文进一步给出了精确闭合定理和动态粗粒化定理,并在有限宽度非线性 ReLU 网络中验证了该框架,其粗粒化模型由五个独立矩组成,可精确预测训练输出及学习算子的演化。
提出 LAPS 方法,通过自蒸馏对齐历史提示并构建基于 Bézier 控制点的锚定提示空间,以在持续适应中保留旧能力并促进跨任务迁移。 方法在 Qwen3 模型上的 TRACE 基准实验中,LAPS 相比蒸馏、提示及联合参数适应方法均表现更优,在提升任务性能的同时减少了灾难性遗忘。
DeGenTWeb 系统性识别出 20.9% 的 Common Crawl 归档网站和 13.6% 的 Bing 链接网站由机器生成文本主导。 该方法将 MGT 检测器适配至网页层面并聚合结果,误报率仅 0.12%,且发现此类网站数量随时间增长。 研究团队将在发表后开源全部代码与数据,为理解网络内容真实性提供基准。
TRACE 利用 EHR 元数据去除临床记录中的模板和重复文本,在5.3M 份记录的四个队列中捕获了86%的标注模板字符,移除文本中仅0.3-6.6% 被标记为作者生成。
研究提出将世界建模转化为视觉问答问题,通过监督微调训练视觉语言模型预测任务相关的语义信息,而非重建未来像素。该方法在模拟机器人任务中验证,相比传统的基于重建的动作风条件世界模型范式取得了性能提升。
SSR策略通过子模覆盖最大化,在百万级数据池中仅用30%(约78万)数据即达全量训练99.1%的性能,且具备跨模型和跨数据池的免训练迁移能力。 该策略利用交互风格(Style)代理结构多样性,并将数据质量分解为能力特定分数(Scores),在LLaVA-1.5和LLaVA-OneVision架构上均表现优越。 SSR是首个在百万级规模验证的数据选择方法,显著降低了多模态模型微调的数据需求。
对992名参与者为期5天的研究发现,重复接触比个性化本身更能驱动人机交互随时间的变化。 个性化模型确实改变了参与者寻求建议和分享信息的态度与行为。 研究强调个性化方法影响的细微差异,并讨论其对负责任设计个性化AI系统的意义。
DEPO 框架引入在线难度估计器,在 rollout 前动态过滤训练数据,将计算资源优先分配给高学习潜力样本。该机制使 rollout 速度比 DAPO 快约 1.86 倍,且在可比训练成本下基准性能优于 GRPO。 DEPO 通过缓解 GRPO 在过易或过难问题上因组间优势消失导致的梯度信号衰减,显著降低了高性能推理模型训练的计算门槛,为推理扩展提供了更可持续的路径。
MuonGS 提出通过 Gram-Schmidt 投影移除更新径向分量,在 LLM 预训练中实现优于 MuonH 的验证困惑度。 该优化器在 160M 至 1B 参数规模模型中验证,密集模型较 MuonH 获得约 15% 等效 token 加速。 理论证明其权重范数增长受控,确保了后期训练的累积效果。
论文提出 SimpleLoRIF,一种可扩展的梯度嵌入方法,用于识别导致 LLM 安全退化的微调数据。该方法简化低秩归因,仅对最后 4 个 Transformer 块进行反向传播,可处理百万级样本,误对齐梯度空间 AUC 达 0.865。
AdaRoll-GRPO 提出基于 Bayes-adaptive MDP 的自适应 rollout 分配策略,在固定总预算下提升 GRPO 训练性能。该策略将难度感知分配建模为序贯决策问题,离线计算策略避免在线优化开销。实验在多个推理数据集和 LLM 架构上验证了该方法优于标准 GRPO。
研究团队构建了包含 10,000 条数据的 HausaSafeLM 数据集,基于 Qwen2.5-7B-Instruct 探索豪萨语 LLM 的安全对齐方法。 实验对比 SFT 与 DPO 策略,发现未微调模型因生成能力有限而高拒答率具有误导性,单一配置难以同时最大化安全性、有用性与流畅度。 研究指出仅依赖拒答率指标无法可靠评估低资源语言的安全对齐效果。
提出递归延续价值估计器 ConCal,通过匹配访问状态并整合共享延续证据,减少了对单次采样延续的依赖,缓解局部信用分配失真。 在 Qwen2.5-1.5B-Instruct 模型上,ConCal 在 ALFWorld 和 WebShop 任务中的成功率分别比 GiGPO 高出 3.39 和 5.86 个百分点。 该方法无需额外 rollout 即可优化策略,代码已公开。
提出 Fisher-Shaped EWC(FS-EWC)方法,通过在预定邻域内最小化最坏经验 FIM 迹来形成对有限参数位移不敏感的未来保留解,并在任务完成时通过基于轨迹的模型合并构建保留解。实验显示 FS-EWC 在多个基准上优于 EWC,具有更优的稳定-可塑性平衡和参数漂移容忍度。 该研究表明有效的知识保留需同时实现未来导向的解构建与已获知识保护。
针对 Muon 优化器在稀疏 MoE 训练中出现的巨大损失尖峰,新提出的 EnergyCal 规则通过衰减路由专家更新来稳定训练过程。在 4B 参数 MoE 模型上,EnergyCal-MuonH 将平均阈值化损失尖峰负担降低 99.51%,最终几何平均困惑度降低 4.06%,且未增加持久化优化器状态。该方法显著提升了 MoE 训练的稳定性,验证了其在有无 Hyperball 设置下的效果。
研究证明,直接偏好优化(DPO)中基于单模型对的Delta学习假设会引入依赖生成器的系统性偏差,导致训练效果低于多模型数据。 实验发现,即使大模型响应质量更高,单对数据仍因奖励黑客(reward hacking)导致表现不佳;增加生成器数量可部分缓解此效应。 结果强调生成器多样性是构建偏好数据的关键因素。
研究人员提出 EvidenceConnect 数据合成框架,通过 RLVR 训练得出 ZwZ2 模型。 该框架利用单图放大区域生成对比、聚合类问题,并采用独立 VLM 共识与区域消融测试确保数据质量。 ZwZ2 在细粒度感知、空间推理及多模态长上下文理解等任务上均取得提升,增强了可泛化性。
研究提出“推进”与“加速”二元框架,指出数据策展能否提升 LLM 性能上限取决于基线与目标是否存在可修正的训练-目标差距。 定义 $\Delta$-test 以量化该差距:显著非零 $\Delta$ 预示持续性能增益,接近零则增益随算力增加消失。 该视角将数据策展重心从方法转向任务本身,为构建目标集提供新方向。
基于 LLaMA-Omni 架构,研究者构建了首个开源巴斯克语 Speech Language Model。该系统采用 Latxa 模型作为骨干网络,通过微调多个模块将文本能力迁移至语音模态,并基于英语语料翻译生成合成数据以解决数据稀缺问题。评估结果显示,系统的内容质量得分为 3.86/5,语音清晰度 WER 为 9.94%,音质 UTMOS 为 3.07。
研究指出汽车安全关键软件更侧重验证,团队提出结合 MISRA 和 AUTOSAR 标准的代码助手,支持按需执行 verify 工具。 该助手通过提示工程和微调定制 LLM,AUMOVIO 两周试点显示开发者最常用 verify 工具,且 75% 偏好更快的提示工程配置。
该论文基于147个主权实体的全球面板数据,利用梯度提升架构将极端宏观经济尾部事件中的预测误差降低超39%。 研究应用双重可解释性框架,映射制度质量的离散阈值效应,揭示了严格的非线性“治理溢价”机制。 该框架为政策制定者提供无分布工具,证明全球资本市场将制度韧性定价为离散边界而非连续溢价。
针对 LLM 序列推荐中的优化盲点,RPSD 通过在线策略自蒸馏(OPSD)和跨用户行为证据,在多个真实数据集上达到最先进性能。 方法引入时序感知最优传输(OT)比较用户交互轨迹,并结合多样性感知选择保留互补轨迹作为特权证据,解决单用户监督忽略共享行为模式的问题。
提出可扩展框架WorkFactory,从专业意图构建包含112,686个任务的数据集,覆盖612个职业。 利用教师轨迹微调Qwen 4B、27B及35B-A3B模型生成WorkPilot系列,在四项基准测试中表现优于基座模型,其中35B-A3B在GDPval-AA v2.1上Elo分从879提升至1565。 数据与模型已开源。
研究提出用于大规模生成高保真对抗性证明的 TROJAN 流水线,并构建了包含专家评分的 USAMO 2025 候选答案数据集。 评测覆盖 20 个模型、7 项指标及 3 种推理方法,显示前沿模型在验证数学证明方面仍有较大提升空间。 提出的 MABGrader 多臂老虎机框架在二次加权 Kappa 指标上比 SOTA ProofGrader 高 26.4%,并将评分误差降低 14%。