跳到正文
10月28日周三
  1. arXiv · AI33

    LISA: 用于高效长上下文推理的线性索引稀疏注意力

    LISA 提出一种即插即用的自注意力替代方案,将长链式思维推理的计算复杂度从序列长度的二次方降低为线性。该方法结合线性注意力分支与 Lightning Indexer,通过动态稀疏选择优化计算资源分配。 在基于 Qwen 的实验中,LISA-1.5B 模型在 16K 上下文下将平均样本延迟降低 23.9%,同时在九项数学与代码推理基准测试中,其平均准确率比全注意力基线提升 4.2 个百分点。

  2. arXiv · AI30

    MoE 解码的 Channel Selection 无需校准数据

    研究证明混合专家模型(MoE)解码中的通道选择无需校准数据。Top-k 方法在 13% 和 18% 预算下,于 43 次对比中的 40 次表现优于或等于阈值法。 该方案在 Gemma 4 上避免了循环崩溃,且基于权重的读取器在 17.8% 的读取率下保留了 98.1% 的完整模型精度。Triton kernel 在批量为一时比 vLLM 快 1.60 至 1.90 倍。

  3. arXiv · AI30

    AgentBaton 如何实现高效的多模型协同任务

    AgentBaton 采用“强模型到高效模型”的接力策略,在 11 个模型组合及两个基准测试中,平均降低 65.9% 的 API 成本,任务准确率基本保持甚至提升最高 8.8 个百分点。 该轻量级检测器通过识别任务进度中的重复模式,决定何时从强模型切换至高效模型,优化了成本与准确度的帕累托边界。

  4. arXiv · AI20

    基于功能感知的 LoRA 适配器队列事后压缩

    研究提出功能秩分配(FRA)方法,在共享秩预算下对 LoRA 适配器队列进行事后压缩。 FRA 通过构建功能秩失真前沿,结合动态规划求解无标签代理,并以光谱提案限制误差,随后执行精确 minimax 分配。 在 78 个适配器的三个公开队列测试中,FRA 在受限预算下改善了最差情况与尾部效用表现。

  5. arXiv · ML24

    云边协同多模态临床筛查系统:在资源受限农村环境中的诊断性能评估

    针对带宽受限与算力不足的资源匮乏地区,云边协同架构利用边缘轻量化模型与云端 LLM 实现多模态临床筛查。 在 20 个多模态病例、500 kbps-5 Mbps 网络条件下,系统实现 98-99% 诊断工具召回率、92-96% 精确率,且 token 成本降低 4-15 倍。 该设计优于纯云端基线,在部署限制下显著提升了多模态数据整合效率与事实依据可靠性。

  6. arXiv · ML21

    自由形式 RFIC 无源器件端到端神经建模:预测电磁响应与设计性能

    团队提出一种端到端神经框架,用于预测自由形式 RFIC 无源器件在可变频率和电路上下文下的电磁响应及下游设计性能。 该框架结合频率条件神经仿真器与电路条件神经求解器,输出包含显式电磁响应和互补响应的神经电磁响应。 在由专家设计轮廓和随机路径合成的大规模数据集上,21M 参数模型在几乎所有目标上达到 R²>0.98,评估速度比传统电磁仿真快数个数量级,代码已开源。

  7. arXiv · ML28

    BellowsKV 跨层 KV 缓存压缩方法

    研究者提出无需训练的 BellowsKV 方法,通过映射相邻层隐藏状态到单一潜变量实现 KV 缓存跨层共享。 在 Llama-3.1-8B、Mistral-7B 和 Qwen2.5-7B 上,BellowsKV-Quant 在 3.6 倍压缩比下保留约 99% 全缓存准确率,13-14 倍压缩下保留 97-98%。 该方法解决了高压缩率下跨层共享缓存精度急剧下降的瓶颈。

  8. arXiv · ML23

    FedSEAM:基于子空间专家共识合并的大语言模型联邦持续学习框架

    FedSEAM 提出一种大语言模型联邦持续学习框架,通过子空间兼容性测试选择性共享专家内容,并在服务器端执行共识方向的子空间专家共识合并以保留客户端特有特征。 该框架利用 Qwen3-4B 和 Llama-3.2-3B 在 TRACE 基准上进行评估,引入路由漂移与合并擦除防护机制,其中一种防护能精确保留选定子空间内的历史任务参数。

  9. arXiv · AI33

    面向医学影像非监督域适应的实用算法选择:无标签准则

    提出一种无标签准则,联合选择非监督域适应的算法与超参数,在无目标域标签情况下辅助临床部署。 方法利用多个无标签信号提名各算法模型,跨算法聚合形成参考预测,依据预测一致性选出最优候选模型。 在4项脑MRI与4项胸部X光数据集的7种临床迁移场景下,选择性能优于其他方法。

  10. arXiv · AI30

    LEO星座中的分布式训练、协同推理与LLM适配:低轨卫星智能综述

    该论文提供首个联合覆盖LEO卫星分布式训练、协同推理及LLM在轨适配的综述,旨在解决AI算力受限下的卫星智能化部署难题。 文中详细阐述了联邦学习与分割学习如何实现星地协同训练,以及多种协同推理架构满足实时服务需求,同时探讨LLM在轨服务的资源感知机制。 这项研究构建了太空原生AI技术的实施路线图,为克服卫星网络动态拓扑与SWaP约束提供了设计原则。

  11. arXiv · AI20

    AIPC:用于 PyTorch 项目部署的证据引导智能体工作流

    AIPC 结合结构化 Skills 与工具链证据,实现 PyTorch 项目在高通 NPU 上的自动部署与优化。 在两个优化案例中,Whisper-Small 有 6/7 次运行达标(对照组 0/6),YOLO-Worldv2 实现 2.791 倍端到端加速(对照组 1.599 倍),部分运行无需人工干预。 该方法将模型适配、构建、执行、精度修复与性能优化整合为单一部署流程。

  12. arXiv · AI23

    基于 ROI 与 VaR 的 LLM 在 SOC 部署的经济评估模型

    论文建立经济模型评估大语言模型在 SOC 中的 ROI,通过蒙特卡洛模拟计算盈亏边界与 Value at Risk。 该模型平衡由准确率驱动的生产力增益与 API、自托管及错误修复成本。分析表明多数配置不具备盈利性,盈利仅限于高准确率、低不确定性部署。 为机构提供了量化依据,支撑基于证据的采用决策。

  13. AWS Machine Learning Blog39

    AWS SageMaker AI 支持 SOCI 索引加速作业启动

    AWS 宣布为 SageMaker AI 训练和加工作业引入 Seekable OCI (SOCI) 索引,实现容器镜像懒加载以消除下载瓶颈。 该功能通过仅拉取启动必需文件并后台流式传输剩余部分,使镜像加载时间从分钟级缩短至 3-11 秒,最大提速约 46 倍,且不影响训练性能。

10月27日周二
  1. NVIDIA Blog50

    C-BRAIN 联合 NVIDIA 利用 AI 加速痴呆症研究

    C-BRAIN 联合 NVIDIA 开发 AI 工具,将痴呆症研究分析周期从数周缩短至数小时,单成本低于 $10。 系统使用 64 块 NVIDIA 数据中心 GPU,结合 NVIDIA BioNeMo 平台,通过混合联邦学习保护“暗数据”隐私。 OpenScientist 工具已覆盖 200 多个研究组,预计规模化后年释放超百万小时研究产能。

  2. Qoder33

    国金证券 × Qoder 规模化 AI 研发共建实践:AI 代码生成占比超 90%

    国金证券与阿里云合作,利用 Qoder 将 AI 代码生成占比稳定提升至 90% 以上。 双方将 2000 余份知识卡片提炼为 10 条避坑规范,覆盖 5 类研发环节;实测知识导航减少工具调用约三成,显著降低存量系统开发风险。 此举将个人经验转化为组织标准,确立标准与约束为 AI 规模化落地的核心瓶颈,而非工具本身。

  3. 面壁智能41

    面壁智能 ForgeKernel 登顶华为 CANN 与英伟达官方算子评测榜

    面壁智能自研系统 ForgeKernel 同时登顶华为 CANNBench 三大硬件榜及英伟达 SOL-ExecBench。 其在 950DT 榜单总分 3903.96,基准加速比达 1.523×,约为第二名 5 倍;在 950PR 榜单加速比 1.886×,有助于降低部署成本。 该系统通过 AI 自动优化缩短国产芯片适配周期,让硬件更快转化为可用算力。