跳到正文
10月19日周一
  1. arXiv · ML25

    LeMA:一种用于深度学习的大规模分布式 Levenberg-Marquardt 训练框架

    LeMA 提出分布式 LMA 算法,通过精确对偶形式和 Jacobian 分片策略,将内存占用从参数规模的二次方降至 batch size 的二次方。 该框架避免了近似 PCG 求解,使数十亿参数模型可执行精确 LMA 步骤。 在 8-GPU 节点上,LeMA 对 1,000,022,632 参数的 CNN 实现 7.97x 加速,强扩展效率达 99.7%。

10月17日周六
  1. AWS Machine Learning Blog55

    Amazon Bedrock AgentCore 基于九阶段评估框架保障 AI Agent 生产可靠性

    AWS 基于 Amazon Bedrock AgentCore 构建了九阶段评估框架,将质量评估贯穿智能体从开发到生产的全生命周期。该框架定义了涵盖准确性、安全性、延迟和成本的五维指标体系,并通过持续评估循环,将质量问题的平均发现时间从数周缩短至 4 小时以内,确保了多智能体系统的生产可靠性。

10月16日周五
  1. 豆包工作36

    华图教育用豆包工作构建学员全生命周期管理应用

    华图教育襄阳分校高级辅导员周斌利用豆包工作搭建学员全生命周期管理应用,将档案、出勤、练习及成绩串联成完整学习轨迹。 该系统支持班级趋势与个人状态一屏查看,内置AI督学助手可基于数据提供沟通建议,并实现根据学员条件自动匹配可报岗位。 应用使备考过程可视化,帮助教师及时定位异常学员,提升学情管理效率与家长沟通依据。

  2. arXiv · NLP20

    Unfragmenting Nawatl NMT: 针对 Masewalkopa 的单一变体专业化模型

    研究针对低资源语言 Nawatl 构建变体专用 NMT 模型,解决混合语料导致的变体碎片化问题。 基于 7 万对多语料微调 mT5-large,筛选 2665 平行句并引入 192 位长者转写句子,生成 LoRA-v9c-b 模型。 模型在开发集 chrF++ 达 58.46,CTranslate2 int8 量化将 CPU 延迟降至 1.8-2.6 秒,支持低成本云部署。

  3. arXiv · ML30

    ETH:面向大模型训练的异构流水线并行方法

    ETH 训练系统通过提出异构流水线并行(HPP)方法,在异构流水线间实现细粒度数据平衡,取得最高 2 倍训练加速。 该系统采用分层工作负载平衡框架优化异构流水线及单阶段内部平衡,并结合块级梯度聚合降低非对称 All-Reduce 通信开销。 相比最先进系统,其配置生成开销降低最多达 56 倍,代码已公开。

  4. arXiv · ML20

    面向XR系统联合通信与计算的不确定性感知联邦学习

    该论文提出一种基于分布式深度学习的联合通信与计算管理方法,用于AI原生网络中多个基站服务XR设备。 方法通过DNN映射估计信道与计算需求至资源分配,并在输出后注入不确定性样本以应对信道和计算估计误差,最坏情况下最小化延迟。 结果显示,联邦学习方案在保持近集中式性能的同时,增强了效率、隐私和适应性。

  5. arXiv · ML30

    BCL 实现无协调分布式训练负载正则化

    提出无协调数据加载策略 BCL,通过重划分固定基数包平衡批次成本,最高降低 82.8% 的批成本变异。 在 13 个语料库及 8 块 H200 GPU 测试中,BCL 比 MFFD 快 1.05 至 1.167 倍,编译后速度提升 1.197 至 1.343 倍。 结果证明可在数据加载边界消除显著变量成本不均衡,无需运行时修改或跨 rank 元数据交换。

  6. arXiv · ML21

    用于时间序列分类的平滑L1正则化稀疏联邦Echo State Networks

    提出SL1ESN,通过平滑L1正则化增强Echo State Networks读出层稀疏性,支持集中式训练与二阶联邦聚合。 在7个基准测试中,集中式设置读出层稀疏度达77%-95%,联邦设置达75%-95%;前5个基准精度差距均不超过0.7个点(集中式)或1.6个点(联邦式),联邦更新仅需几轮收敛。 结果证明稀疏读出能显著压缩模型存储、推理成本及服务器-客户端广播开销,适用于边缘计算与物联网部署。

  7. arXiv · AI40

    Primus Projection 和 Primus Tuning Agent 实现分布式 LLM 训练自动调优

    Primus Projection 引擎通过混合投影和自动调优,将分布式 LLM 训练配置搜索效率提升 10 倍以上。 在 Llama 3.1 和 Mixtral 8x22B 上验证,DeepSeek V3 671B 在 1024 GPU 上预测误差仅 4.7%,Mixtral 8x22B 吞吐量提升 27%。 该方案于 NeurIPS 2026 被接收,解决了多节点试错的高 GPU 成本问题。

  8. Microsoft Research44

    Microsoft Research 发布 Magnetar:基于密码学证明的通用计算

    Microsoft Research 推出 Magnetar 系统,支持 Rust、Go 或 C 程序生成零知识证明,验证仅需毫秒。 Magnetar 平均运行速度比此前最快系统快 10 至 39 倍,且安全性仅依赖标准哈希函数,规避了量子计算威胁。 该系统使通用程序无需修改即可获得可验证执行证明,推动了无信任依赖的计算模式落地。

10月15日周四
  1. Hugging Face Blog87

    FLUX.3 Image Klein 在 Hugging Face Diffusers 中首发并支持布局控制

    Hugging Face 官方宣布 FLUX.3 Image Klein 已集成到 Diffusers,该模型支持文生图、多参考图生图以及基于 bounding box 的图像布局控制。H100 上蒸馏版 checkpoint 可在约 2 秒内生成 1024 × 1024 图像,并支持 NVFP4 和 FP8 量化权重。

    推荐理由:介绍 FLUX.3 Image Klein 在 Diffusers 的集成细节,重点展示了 bounding-box 布局控制功能及多种量化推理方案。

  2. NVIDIA Blog48

    NVIDIA 通过开放资源、合作与算力扩大欧洲科研界先进技术访问

    NVIDIA 加入欧盟“AI in Science Enablers”计划,向欧洲科研人员开放加速工具、模型与算力资源,支持小型实验室和初创企业开展科学计算。 提供超过 250 个开源模型、250 个开放数据集及 1400 多个开源软件项目,并推出 Nemotron、BioNeMo 等工具用于生物、气候、材料等科研领域。

  3. 面壁智能72

    PilotDeck 2.0 正式开源

    PilotDeck 2.0 由面壁智能联合清华大学 THUNLP 等机构正式发布并开源,主打办公场景复杂任务处理。该版本优化了 Word、Excel、PPT 内置 Skills 以支持全流程交付,实测使用 35B 级轻量模型时办公测试得分达 79.4 分,且通过智能路由将社媒任务费用降低 75% 以上。

    推荐理由:原文给出了 PPT/Excel 技能增益和轻量模型成本优化数据,展示了 Agent 在办公场景落地的实际效率边界。