跳到正文
10月28日周三
  1. arXiv · ML20

    因果DAG引导强化学习用于长期体力活动维持:利用先验数据指导未来部署

    针对数字健康干预中体力活动(PA)长期维持难的问题,研究者开发了在线强化学习(RL)系统。该系统基于专家指定的因果有向无环图(DAG)作为设计工具,优化状态构建、部分观测估计及延迟信用分配,以改善PA情感关联。 系统利用既往微型随机试验数据构建纵向模拟器,在部署前评估候选RL设计在真实状态演化、缺失值及参与者异质性下的表现,提升了长时程个性化RL在数字健康干预中的实用性。

  2. arXiv · ML33

    SynthAPI:基于可控环境合成的大语言模型工具使用智能体扩展定律

    提出 SynthAPI 流水线,在 458,752 个任务和 849 个模型中推导预测工具使用智能体泛化能力的扩展定律。 发现增加工具和数据库多样性比增加任务数量更有效,且提升数据复杂度能带来更大收益。 遵循此扩展策略训练的智能体在四个基准测试中优于先前工作生成的模型。

  3. arXiv · ML38

    SERF:自正则化流语言模型框架

    SERF(自正则化流语言模型)提出一种无外部预训练模型的自监督框架,通过噪声到干净自蒸馏提升连续扩散语言模型性能。 在OpenWebText数据集上,SERF实现7.7倍训练加速,MAUVE提升24.3%,GSM8K准确率最高提升28.8%,采样步骤减少最高达64倍。

  4. arXiv · NLP21

    BrailleBench 基准测试显示 VLM 在盲文识别上表现不佳,合成数据训练可显著提升准确率

    BrailleBench 基准包含 259 张真实世界一级和二级盲文图像,通用视觉语言模型直接转写表现差,而工具辅助系统表现更好。 基于 2B VLM 在合成盲文数据上训练后,在一级盲文上达到 87% 精确匹配,在二级盲文上达到 61% 精确匹配,优于独立运行的 VLM。 结果表明合成数据监督可改进真实场景下的盲文转写,但在合成验证集上高达 96% 准确率并不保证在真实照片上表现良好。

  5. arXiv · NLP28

    通过持续预训练语料库为模型植入人机-生物圈-AI福利倾向

    研究者构建了一个持续预训练语料库,通过一次 QLoRA CPT 运行植入五个开源模型,旨在让模型在压力下保护生物系统而非进行“绿色伦理洗白”。 测试显示,耦合福利训练使四个模型在最高压力下的有害决策降至零或接近零(如 Llama-3.3-70B 从 300 次降至 0),MMLU 保持不变,且效果优于中性对照组。

  6. arXiv · NLP33

    大语言模型发布的预训练信息披露审计:后续版本并未一致保留早期透明度

    基于 2025 年 FMTI 指标审计 17 个模型家族的 41 个条目发现,后续发布未一致保留早期预训练披露,11 次对比中分数下降。 审计追踪 24 项指标在 24 组相邻对比中的变化,总共有 38 项指标损失和 28 项增益。 OLMo-2 和 OLMo-3 总分相同但存在三项增益和三项损失,Llama-3.1 总分提升却失去两项数据标准信用。

  7. arXiv · ML28

    神经网络训练的动态粗粒化

    该研究提出了神经网络训练的动态粗粒化框架,通过定义学习算子并建立下降定理,实现了在远小于参数空间的状态空间中对训练过程进行预测和控制。 论文进一步给出了精确闭合定理和动态粗粒化定理,并在有限宽度非线性 ReLU 网络中验证了该框架,其粗粒化模型由五个独立矩组成,可精确预测训练输出及学习算子的演化。

  8. arXiv · AI40

    DeGenTWeb:首个 MGT 主导网站研究

    DeGenTWeb 系统性识别出 20.9% 的 Common Crawl 归档网站和 13.6% 的 Bing 链接网站由机器生成文本主导。 该方法将 MGT 检测器适配至网页层面并聚合结果,误报率仅 0.12%,且发现此类网站数量随时间增长。 研究团队将在发表后开源全部代码与数据,为理解网络内容真实性提供基准。

  9. arXiv · AI30

    SSR:百万级多模态指令微调的简单数据选择策略

    SSR策略通过子模覆盖最大化,在百万级数据池中仅用30%(约78万)数据即达全量训练99.1%的性能,且具备跨模型和跨数据池的免训练迁移能力。 该策略利用交互风格(Style)代理结构多样性,并将数据质量分解为能力特定分数(Scores),在LLaVA-1.5和LLaVA-OneVision架构上均表现优越。 SSR是首个在百万级规模验证的数据选择方法,显著降低了多模态模型微调的数据需求。

  10. arXiv · AI38

    个性化语言模型对人的长期影响研究

    对992名参与者为期5天的研究发现,重复接触比个性化本身更能驱动人机交互随时间的变化。 个性化模型确实改变了参与者寻求建议和分享信息的态度与行为。 研究强调个性化方法影响的细微差异,并讨论其对负责任设计个性化AI系统的意义。

  11. arXiv · AI20

    DEPO 如何通过难度估计优化 LRM 训练效率

    DEPO 框架引入在线难度估计器,在 rollout 前动态过滤训练数据,将计算资源优先分配给高学习潜力样本。该机制使 rollout 速度比 DAPO 快约 1.86 倍,且在可比训练成本下基准性能优于 GRPO。 DEPO 通过缓解 GRPO 在过易或过难问题上因组间优势消失导致的梯度信号衰减,显著降低了高性能推理模型训练的计算门槛,为推理扩展提供了更可持续的路径。

  12. arXiv · AI24

    豪萨语 LLM 安全对齐案例研究:基于 Qwen2.5 的偏好优化分析

    研究团队构建了包含 10,000 条数据的 HausaSafeLM 数据集,基于 Qwen2.5-7B-Instruct 探索豪萨语 LLM 的安全对齐方法。 实验对比 SFT 与 DPO 策略,发现未微调模型因生成能力有限而高拒答率具有误导性,单一配置难以同时最大化安全性、有用性与流畅度。 研究指出仅依赖拒答率指标无法可靠评估低资源语言的安全对齐效果。

  13. arXiv · AI24

    ConCal 通过共享延续校准长时程智能体强化学习中的动作价值

    提出递归延续价值估计器 ConCal,通过匹配访问状态并整合共享延续证据,减少了对单次采样延续的依赖,缓解局部信用分配失真。 在 Qwen2.5-1.5B-Instruct 模型上,ConCal 在 ALFWorld 和 WebShop 任务中的成功率分别比 GiGPO 高出 3.39 和 5.86 个百分点。 该方法无需额外 rollout 即可优化策略,代码已公开。

  14. arXiv · AI25

    无重放持续学习中的 Fisher-Shaped EWC 算法

    提出 Fisher-Shaped EWC(FS-EWC)方法,通过在预定邻域内最小化最坏经验 FIM 迹来形成对有限参数位移不敏感的未来保留解,并在任务完成时通过基于轨迹的模型合并构建保留解。实验显示 FS-EWC 在多个基准上优于 EWC,具有更优的稳定-可塑性平衡和参数漂移容忍度。 该研究表明有效的知识保留需同时实现未来导向的解构建与已获知识保护。

  15. arXiv · AI30

    EnergyCal:抑制 Muon 家族优化器在稀疏 MoE 训练中的损失尖峰

    针对 Muon 优化器在稀疏 MoE 训练中出现的巨大损失尖峰,新提出的 EnergyCal 规则通过衰减路由专家更新来稳定训练过程。在 4B 参数 MoE 模型上,EnergyCal-MuonH 将平均阈值化损失尖峰负担降低 99.51%,最终几何平均困惑度降低 4.06%,且未增加持久化优化器状态。该方法显著提升了 MoE 训练的稳定性,验证了其在有无 Hyperball 设置下的效果。

  16. arXiv · AI27

    探索Delta学习假设的局限:直接偏好优化中单模型对生成器偏差

    研究证明,直接偏好优化(DPO)中基于单模型对的Delta学习假设会引入依赖生成器的系统性偏差,导致训练效果低于多模型数据。 实验发现,即使大模型响应质量更高,单对数据仍因奖励黑客(reward hacking)导致表现不佳;增加生成器数量可部分缓解此效应。 结果强调生成器多样性是构建偏好数据的关键因素。

  17. arXiv · AI27

    数据策展改善 LLM 训练:是推进性能上限还是加速收敛?

    研究提出“推进”与“加速”二元框架,指出数据策展能否提升 LLM 性能上限取决于基线与目标是否存在可修正的训练-目标差距。 定义 $\Delta$-test 以量化该差距:显著非零 $\Delta$ 预示持续性能增益,接近零则增益随算力增加消失。 该视角将数据策展重心从方法转向任务本身,为构建目标集提供新方向。

  18. arXiv · AI24

    首个开源巴斯克语 Speech Language Model 基于 LLaMA-Omni 架构开发

    基于 LLaMA-Omni 架构,研究者构建了首个开源巴斯克语 Speech Language Model。该系统采用 Latxa 模型作为骨干网络,通过微调多个模块将文本能力迁移至语音模态,并基于英语语料翻译生成合成数据以解决数据稀缺问题。评估结果显示,系统的内容质量得分为 3.86/5,语音清晰度 WER 为 9.94%,音质 UTMOS 为 3.07。

  19. arXiv · AI28

    主权资本流中的算法韧性与非线性治理溢价

    该论文基于147个主权实体的全球面板数据,利用梯度提升架构将极端宏观经济尾部事件中的预测误差降低超39%。 研究应用双重可解释性框架,映射制度质量的离散阈值效应,揭示了严格的非线性“治理溢价”机制。 该框架为政策制定者提供无分布工具,证明全球资本市场将制度韧性定价为离散边界而非连续溢价。

  20. arXiv · AI35

    研究揭示 LLM 可靠批改奥林匹克数学证明的能力局限,提出 MABGrader 框架

    研究提出用于大规模生成高保真对抗性证明的 TROJAN 流水线,并构建了包含专家评分的 USAMO 2025 候选答案数据集。 评测覆盖 20 个模型、7 项指标及 3 种推理方法,显示前沿模型在验证数学证明方面仍有较大提升空间。 提出的 MABGrader 多臂老虎机框架在二次加权 Kappa 指标上比 SOTA ProofGrader 高 26.4%,并将评分误差降低 14%。