跳到正文
10月28日周三
  1. arXiv · AI38

    Prospector:学习紧凑的图遍历策略用于科学推理

    研究团队训练了紧凑模型 Prospector,通过逐步遍历领域知识图谱来支持科学推理,其性能接近同等条件下的最强现成模型,且远超使用预选图谱片段的现成模型。 Prospector 单次调用少量工具构建上下文,在半导体制造文献图谱上表现优异,并成功迁移至生物启发材料、PFAS 和材料属性等三个未见领域,单 GPU 部署即可运行。

  2. arXiv · AI43

    Evolving Agent Teams 框架逃离局部最优,生成性能超越 FlashInfer 的 CUDA 内核

    Evolving Agent Teams 框架在 GPU 内核优化上持续优于编码智能体基线,生成的 CUDA 内核使 FlashInfer MLA 分页解码加速 1.2 倍,并在 47 个生产负载中的 36 个上胜出。该框架由中央监督者诊断重构智能体团队,利用持久文件系统积累经验。代码已开源,且在 AMD MI350X 上实现 3.01 倍加速。

  3. arXiv · AI35

    研究揭示 LLM 可靠批改奥林匹克数学证明的能力局限,提出 MABGrader 框架

    研究提出用于大规模生成高保真对抗性证明的 TROJAN 流水线,并构建了包含专家评分的 USAMO 2025 候选答案数据集。 评测覆盖 20 个模型、7 项指标及 3 种推理方法,显示前沿模型在验证数学证明方面仍有较大提升空间。 提出的 MABGrader 多臂老虎机框架在二次加权 Kappa 指标上比 SOTA ProofGrader 高 26.4%,并将评分误差降低 14%。

  4. arXiv · AI29

    MARQ:融合系统工程知识的模块化 LLM 需求质量评估器

    论文提出 MARQ,一种模块化 LLM-agnostic 原型,通过注入 INCOSE 标准改进需求质量评估。 在 NASA 数据集上,MARQ 使 Claude Opus 5、GPT-5.6 Sol 和 Gemma 3 12B 的中位数 F1 分数分别达 0.80、0.62 和 0.53,显著优于闭源基线。 研究证实该方法能有效提升检测一致性,但不同模型收益表现各异,仍需人工审核。

  5. arXiv · ML35

    OvisOCR3 技术报告

    OvisOCR3 是一款 0.8B 参数的多任务 OCR 模型,通过持续预训练和混合任务强化学习整合了文档解析、通用 OCR、关键信息提取等五大任务。模型在 OmniDocBench v1.6 等基准测试中取得 96.74 分的高分,并在 OCRBench v2 等测试中排名首位,验证了小模型在多样化 OCR 任务上的强劲性能。

  6. arXiv · ML20

    LSTM 风格循环 Transformer 与共享 KV 缓存

    研究了一种结合 LSTM 风格循环与共享 KV 缓存的 Transformer 架构。 在 1024 宽度下,该模型比无权重绑定对照组少用 40.4% 参数,并将持续缓存集从 15 个减至 4 个。 通过一致性损失对齐并行训练与递归推理,消除了 81%–89% 的续传损失惩罚,且在低数据预算下优势更明显。

  7. arXiv · AI36

    REVA:基于 LLM 上下文探测的实时漏洞检测

    实时漏洞检测器 REVA 将安全上下文与代码理解组件整合至 LLM 单次前向传播,实现实时筛选新函数。 在 GLM-5.3-Flash 上,REVA 在 PrimeVul 测试集达到 60.0% 准确率,单函数耗时约 1 秒,比最先进的智能体检测器 VulTriage 快 250 倍且成本不足其十分之一。

  8. arXiv · AI25

    DPR 双层稀疏化方法:在紧凑核心上训练以实现图神经网络高效推理

    DPR 方法通过“剪枝-重构”双层稀疏化,将节点剪枝从精度损失转化为 VRAM 受限下的训练加速器。部署版 30% 预算模型在单张 6 GB GPU 上以 1,450 MiB 峰值内存完成训练,相比 DSpar 基线降低 50.1% 内存且精度提升 1.36 pp,所有节点服务速度比 GraphSAGE 快 46 倍。该框架可扩展至 2.45M 节点生产图,证明激进剪枝在显存受限场景下的可行性。

  9. arXiv · AI33

    引导教师:通过激活引导提升思考模型在线策略自蒸馏效果

    针对在线策略自蒸馏中教师模型因参考条件导致的参考幻觉和重新思考抑制问题,研究者提出了引导教师方法ST-OPSD。 该方法从推理轨迹中提取两个方向,在计算蒸馏目标时调节教师隐状态,抑制引用不可用参考的行为并鼓励在不确定步骤重新验证,学生模型则直接从未受引导的分布中学习。

  10. arXiv · AI23

    Patchwork:域随机化具身仿真中的资源共享系统

    Patchwork 系统通过共享模板与补丁机制优化域随机化具身仿真,解决并发环境内存浪费问题。 该系统将随机化采样与回放分离,在 robosuite 和 MuJoCo 上测试显示,32 副本共享执行使 CPU RSS 降低 88-92%。 这种资源管理方式将内存增长趋势从实例数量转移至模板多样性,提升了仿真系统的资源效率。

  11. arXiv · AI33

    MultiEvoSkill:面向可泛化技能产物的结构感知多智能体技能进化框架

    MultiEvoSkill 提出结构感知多智能体技能进化框架,通过技能编译器、异构智能体系统及结构感知辩论机制优化冻结 LLM 智能体的技能文档。框架将技能编译为显式拓扑的有类型图,利用集体智能识别最小化且信息丰富的问题,并在依赖与重要性约束下解决候选编辑冲突。实验验证了该方法相较于 SOTA 方法的有效性及其跨模型泛化能力。

  12. arXiv · AI30

    OS-Wizard: Scaling Computer-Using Agents to Specialized Software via Knowledge-Guided Exploration

    OS-Wizard 框架收集 10.9K 条轨迹用于微调开源模型,在专用桌面工作流基准上将性能提升至 64.1%,超越人类水平并确立新的 SOTA。 该框架结合教程引导探索与混合 GUI-代码动作空间,利用应用原生命令简化工作流,并通过树探索检查点重访关键状态以扩大覆盖率。

  13. arXiv · AI45

    Numina Fuse:基于 Lean 4 的交互式自动形式化智能体

    Numina Fuse 是一款用于在 Lean 4 中进行数学形式化的原生智能体应用。 用户通过蓝图、依赖图和 Lean 代码视图监督 AI 编排器,后端可长时间运行智能体任务。该工作展示了 2026 年从预定义流水线向自主编排器的演进,并应用于三维 Kakeya 猜想的形式化研究。 开源本地版本 Fuse Desktop 已发布,为下一代自动形式化系统提供了设计经验。

10月27日周二
  1. arXiv · NLP38

    层级对齐:面向大语言模型偏好调优的块级 LoRA-DPO

    该研究提出层级对齐方法,将解码器深度划分为局部、中间和全局区域,并限制 LoRA 更新仅作用于选定连续块。 在 Qwen 和 Llama 模型测试中,严格匹配可训练参数时,中间区域(Middle)配置在 Qwen2.5-7B 和 Llama-3.1-8B 上实现了比全深度分配更低的 DPO 留出损失,且峰值内存占用更低、训练步长更短。

10月26日周一
  1. arXiv · AI31

    MedAction 通过主动多轮诊断微调 8B 模型提升开源医疗 LLM 性能

    研究提出 MedAction 流水线,通过 LLM 与环境交互合成多轮诊断轨迹,解决现有医疗模型在证据逐步演变时缺乏行动能力的问题。 使用知识图谱指标 DTC 和 RAC 过滤质量,构建包含 32,681 条轨迹的 MedAction-32K 数据集。 基于该数据微调的 8B 模型在 MedR-Bench 和 MedAction-300-Hard 上达到开源模型最佳性能。

  2. arXiv · AI38

    ALLMTS: 基于 LLM 的自动化医疗分诊系统

    ALLMTS 是一种自动化 LLM 医疗分诊系统,通过执行商业维护的远程医疗指南进行分诊,在 566 个场景测试中准确率 0.95,优于原始 LLM 基线的 0.47。 该系统让 LLM 执行指南而非直接分诊,在 50 个场景子集上准确率 0.98,过度分诊率降至 0.02。 该成果被 NeurIPS 2026 GenAI4Health Workshop 接收。

  3. arXiv · AI43

    Self-Direction 机制:将智能体错误转化为持久经验

    本文提出 Self-Direction 机制,允许智能体从错误中提取经验并蒸馏至轻量级低秩适配器。 该方法冻结原始权重,仅训练约 0.02% 的基座参数,在 Qwen 系列模型上将任务成功率提升 8.9 至 17.0 个百分点,且经验可泛化至新任务。 智能体可通过持久化经验库自动路由解决相似问题,显著提高了纠正行为的可靠性。

10月24日周六
  1. AWS Machine Learning Blog62

    AWS SageMaker AI 多轮强化学习实战教程

    AWS 官方教程演示了如何在 Amazon SageMaker AI 上利用多轮强化学习训练 gpt-oss-20b 模型玩 Wordle。训练后该模型在默认推理努力下的解出率从 61% 提升至 84%,整个 100 步训练过程消耗了约 339 美元的 token 费用。文章详细覆盖了 Agent 部署、奖励函数设计避坑以及通过 MLflow 监控训练曲线的具体步骤。

10月23日周五
  1. MiniMax 稀宇科技86

    MiniMax M3.1 Flash 开源,72 小时处理 Token 超 100 万亿

    MiniMax 开源了 MiniMax M3.1 Flash 模型权重,总参数 428B、激活参数 23B。上线 72 小时内真实用户处理 Token 超过 100 万亿。该模型通过全模型稀疏注意力、量化感知训练(QAT)和 Power-aware scheduling 提升了推理效率,并与多家国内外芯片厂商及云服务平台、开源社区完成了首日接入。

    推荐理由:M3.1 Flash 上线 72 小时处理 Token 超过 100 万亿,展示了模型的高吞吐与广泛的芯片/云平台生态适配能力。

  2. 蚂蚁开源42

    蚂蚁开源轻训营高校行首站落地浙大,专属任务开放认领

    蚂蚁开源轻训营高校行首站于 10 月 20 日在浙江大学举办,现场六位讲师分享 AI 基础设施进展,专属任务同步开放认领。 核心分享包括 AReaL 实现 2.7 倍吞吐提升,以及 VSAG 稀疏向量检索性能超业界同类 4 倍。 活动旨在通过真实项目让学生掌握 AI 工具与开源协作,提升工程能力。

  3. arXiv · ML40

    FunctionGemma 270M-it 扩展至移动端函数调用

    研究团队将 FunctionGemma 270M-it 扩展至 Android 场景,端侧函数调用准确率从基线的 29.3% 提升至 76.5%。 团队引入约 9500 条对话的 MOBILEACTIONSEXTENDED 数据集,覆盖 15 类设备控制指令,并开源了模型与训练代码。 该方案为低延迟、隐私保护的本地移动助手提供了可行的技术路径。