跳到正文
10月9日周五
  1. arXiv · ML24

    dqmeasure:ISO 数据质量指标的实现指南与开源库

    团队提出实现指南,使 ISO/IEC 25024 和 5259 的数据质量指标可执行,并开发了包含 20 项指标的开源库 dqmeasure。 指南将指标分为三类,利用 dqmeasure 从参考数据中学习参数,实验表明指标分数随注入错误增加而单调下降,且与行数线性扩展。 该方案支持基于 ISO 标准的自动化数据质量监控,并验证了指标分数与下游 ML 性能及数据质量的同步变化关系。

  2. arXiv · AI28

    Fed-GRPO: 基于奖励信号驱动的联邦群体相对策略优化

    提出联邦框架 Fed-GRPO,利用 GRPO 训练中的奖励统计量作为零成本信号引导聚合与通信,实现隐私保护下的协同推理训练。该框架包含信号加权聚合、全局奖励校准及自适应稀疏通信机制,在数学推理任务中优于 FedAvg 并接近中心化性能。实验表明其可无损降低 32 倍通信量,在带宽受限下支持最高 621 倍压缩且精度仅轻微下降。

  3. arXiv · ML30

    NanoProof:开源且高效的 Lean 4 自动定理证明器

    NanoProof 是首个端到端开源可复现的因子化执行引导 Lean 4 定理证明器,在 MiniF2F-Test 基准上取得 50.8% 的 pass@16 成绩。 该模型使用比 HyperTree Proof Search 少约 90 倍、比 ABEL 少约 7 倍的算力,并公开了训练数据与提取工具。 其低算力需求证明了该类证明器可用适度资源从头构建,为可持续研究提供支持。

  4. arXiv · ML22

    CoPoE:基于可分解疾病坐标专家乘积的多模态融合缺失模态阿尔茨海默病诊断框架

    提出CoPoE疾病坐标专家乘积框架,将多模态证据映射至R、P、N、S四个结构潜变量轴,仅在模态缺失时不引入合成填补。 基于ADNI数据集验证,CoPoE在共享非PET嵌入基准下,所有模态及15种观测子集评测中取得最优AUROC,并显著提升ECE、Brier score与NLL。 代码已开源。

  5. arXiv · ML26

    WMPA 世界模型策略仲裁器:通过测试时组合冻结策略提升离线目标条件强化学习性能

    WMPA 是一种测试时框架,通过在世界模型中推演并评估一组冻结策略,提升离线目标条件强化学习在复杂任务中的表现。 在 OGBench 的 18 个数据集上,WMPA 将平均成功率从单一最佳策略的 44% 提升至 58%,在 12 个数据集上取得显著提升。 该框架无需重新训练策略或依赖特权任务知识,通过短期承诺机制避免了频繁切换导致的不稳定。

  6. arXiv · NLP23

    SMAT: 简单高效的合并感知训练

    SMAT 联合优化专家损失与模拟合并参数下的期望损失,将合并操作分解为 Scale、Mask 和 Perturb 三类基础操作。 该方法通过周期性调度、kernel fusion 和参数存储切换提升效率,每步仅需一次前向和一次反向传播。在四个语言及视觉-语言 backbone 上,SMAT 使五种合并方法的平均分比最强基线提高 1.07–2.16 分,训练时间开销低于 2%。

  7. arXiv · NLP33

    Box²-Bench 揭示大模型在依赖外部工作流时的选择性调节能力

    研究提出 Box²-Bench 基准,揭示前沿模型虽能从可靠工作流中获益,但在引导失效时仍易受误导。 研究采用反事实监督微调提升鲁棒性,并发现该行为可推广至同伴纠正及损坏记忆等外部信息场景。 结果表明,对易错外部信息的选择性依赖是仅靠任务表现无法捕获的智能体可靠性维度。

  8. arXiv · NLP24

    FA-Bench:面向强制对齐与 ASR 的音素及单词级时间戳准确性基准

    FA-Bench 发布统一评测框架,纳入 21 个开源模型与 9 个商用 API,采用基于容忍度的 F1 指标修正 MAE 导致的 9% 至 14% 分数膨胀。 该基准将边界按位置和邻词识别状态分组,发现 Whisper 系统性提前约 150 ms,多个商用 ASR API 延迟超 50 ms。 通过固定文本归一化与评分脚本,解决现有对比因数据分割和边界匹配方式不同导致结果无法直接比较的问题。

  9. arXiv · NLP25

    UAB 如何在自适应测试时推理中实现不确定性感知的预算分配

    研究提出不确定性感知预算分配(UAB),通过凹整数优化框架重新分配固定采样预算,以提升大语言模型推理准确性。 在五个开源模型(1.5B-27B)和五个推理基准测试中,UAB 平均准确率提升 2.3%,个别基准提升最高达 5.5%。 UAB 无需辅助模型或额外 LLM 调用,代码已公开可用。

  10. arXiv · NLP74

    MiMo-V2.6:通过扩展强化学习算力推动多模态模型自我提升

    小米团队发布 MiMo-V2.6 系列多模态模型技术报告,通过大规模强化学习提升模型智能边界。该系列基于混合-SWA 架构进行中期训练,并在三维方向扩展 RL 算力:每步消耗 1,568 样本及 2.7-3.7B token(支持 1M 上下文)、覆盖代码/通用/视觉/网络领域的复杂环境,以及通过组式智能体评分生成更准确的奖励信号。

  11. arXiv · NLP35

    SAIL:基于科学感知循环的35B参数开放科学智能体模型

    SAIL 是一款开放模型,总参数量 35B 且激活参数 3B,面向文献研究、科学编码及多步科研工作流。 该模型通过科学感知改进循环开发,利用前沿 AI 智能体分析任务失败并构建针对性训练任务,结合监督微调、专家训练、多教师在线策略蒸馏及智能体强化学习进行训练。 SAIL 在科学研究任务中取得了与领先开放权重模型相当的性能,但参数量显著更少。

  12. arXiv · NLP23

    Wieszcz-XIX:31 亿词前 1918 年波兰语语料库及从头训练的时间受限模型

    研究人员构建包含 6.75B tokens 的 Wieszcz-XIX 语料库,覆盖 1800-1918 年波兰语文档,并开源发布。 该语料库通过管道过滤、去重并审计后 1918 年文本泄漏,已知残留率为 0.04% 至 0.38%。 研究团队从头训练 47M 至 349M 参数模型,结果显示其时间受限性优于现代基础模型。

10月8日周四
  1. arXiv · ML24

    GridSFM: 求解交流最优潮流的基础模型

    GridSFM 提出结合预训练基础模型与物理启发的微调框架,以大规模求解交流最优潮流 (AC-OPF)。该模型为 1500 万参数图神经网络,在 500 至 4,000 节点拓扑上预训练。 零样本生成成本误差为 2.45%,且随系统规模增加无性能衰减。通过仅 100 个求解实例,模型可适应至 10,000 节点的未知电网。 所有模型、数据与代码已开源。

  2. arXiv · ML38

    OpenTSLM TeeMoE: 统一时序预测、上下文推理与时间逻辑的通用时序语言模型

    OpenTSLM TeeMoE 是一款通用的时序语言模型,将时序预测、上下文条件预测和基于语言的时间推理统一在一个共享骨干网络中。 该模型为预测聚合、原生预测和时间分析独立训练了三个低秩专家,并由一个学习型的 LoRA MoE 控制器根据每个请求对冻结的参数更新进行加权。

  3. arXiv · ML40

    ECGLight:基于轻量化设备的纸质心电图数字化与心肌梗死筛查框架

    ECGLight框架实现了纸质心电图向12导联信号的转换及心肌梗死(MI)筛查,单例处理耗时小于30秒。 该模型在PTB-XL数据集上MI检测准确率为95.51%,在ECG-Matrix数据集上OMI检测准确率为88.89%,并支持SHAP可解释性分析。 该轻量级框架适用于缺乏高速连接与高性能计算资源的远程医疗场景,旨在延缓的再灌注治疗风险。

  4. arXiv · ML20

    PrismSSL:统一多模态自监督学习的单接口 Python 库

    PrismSSL 是一个 MIT 许可的 Python 库,将音频、视觉、图及跨模态的自监督学习方法统一在单个模块化代码库中。 其功能包括基于 HuggingFace Transformers 的集成、PyTorch 分布式训练、Optuna 超参搜索、LoRA 微调及 Flask 图形化配置仪表盘。 该库已打包至 PyPI,提供代码和数据配方,支持研究者复现紧凑基准测试并扩展新模态。

  5. arXiv · ML32

    HE-OFT:同态加密下隐私保护的单轮联邦微调

    HE-OFT 是首个密码学安全的单轮联邦微调协议,确保没有任何参与方获得最终模型。 该协议通过低秩适配器微调,在四个文本分类和一个视觉任务中达到 61% 至 79% 的准确率,保留披露模型 85% 至 96% 的性能。 单核心测试查询耗时 443.1 至 1713.1 秒,GPU 加速并执行层级恢复可将流量从 1.6 GiB 降至 13.5 MiB。

  6. arXiv · ML26

    Seq-Flow:利用自滚出误差控制实现高效概率预测的流模型

    Seq-Flow 是一种条件流模型,通过 ODE 将样本从上一预测分布传输至更新分布,在粒子加速器束流溢出预测中使 CRPS 降低 65%。 该模型采用自滚出训练,利用移动平均副本生成预测以初始化后续更新,避免自强制方法中复用输出作为条件语境的局限。 尽管训练时最多仅进行四次更新,Seq-Flow 在超过 400 次连续预测中保持准确,且代码已开源。

  7. arXiv · ML26

    跨域预训练提升稳态计算流体力学神经代理泛化能力

    研究表明,在多种几何体、边界条件及保真度上进行的跨域预训练,能显著提升神经计算流体力学(CFD)代理模型在留出数据集上的零样本及少样本性能。 微调该预训练模型在相同样本量下,误差可较从头训练降低 2-3 倍,或达到相同误差所需样本减少 8 倍,此优势不依赖特定架构。 鉴于生成 CFD 数据成本高昂,利用现有数据集进行跨域预训练是扩展此类模型应用的有效策略。

  8. arXiv · ML23

    PoreML:用于学习多孔介质多相流的开源数据驱动框架

    PoreML 是一个开源数据驱动框架,旨在通过统一数据生成、模型训练与评估流程,解决多孔介质多相流预测中时间分辨 3D 数据集稀缺和缺乏统一工作流的问题。 该框架包含 GPU 原生格点玻尔兹曼求解器、包含 560 次模拟运行和 158,546 个存储时间步的 3.3 TB 数据集,以及评估 5 种不同架构模型的一体化学习框架。

  9. arXiv · ML42

    COSTGRAD 通过成本梯度实现视觉世界模型中的稀疏规划

    提出免训练的 COSTGRAD 选择器,利用规划成本的梯度范数对空间 token 排序,实现视觉世界模型的稀疏规划。 在 50% 稀疏度下,该方法在四个连续控制基准中的三个上匹配或超过全 token 规划,且单步规划墙钟时间加速 2.6 倍;结合减少 CEM 搜索后总加速比达约 5 倍。 论文揭示了选择器与架构的兼容性是稀疏规划的关键设计维度。

  10. arXiv · ML20

    Auditopus:去中心化LLM公平性审计框架

    Auditopus 提出一种无中心服务器的去中心化 LLM 公平性审计方法,通过聚合各审计者发送的累计统计向量来估计模型公平性。 该方法允许单个恶意审计者伪造向量误导结果,但诚实审计者会动态降权统计不一致的节点;在对抗攻击下,其审计误差较无防御降低 78%,且在 49% 审计者为敌对时仍能有效识别不公平模型。 该框架为应对 LLM 监管合规中的信任难题提供了鲁棒的技术路径。

  11. arXiv · ML33

    DSTNet 动态光谱轨迹网络用于因果多时间尺度金融预测

    DSTNet 保留滤波器组幅值的近期演变作为因果动态光谱轨迹,在 32 个序列-时间尺度单元中成为唯一在所有单元表现优于持续性基准的模型。 模型基于 20 天回看窗口构建,通过因子化 Scale-Temporal Spectral Transformer 及学习门控机制,单次生成 1 至 10 日的预测,误差较持续性基准低 0.7%-4.5%。