跳到正文
10月23日周五
  1. 科大讯飞61

    科大讯飞发布端云一体星火X2.6、SparkAudio 1.0及WinWork数字员工平台

    科大讯飞发布端云一体星火X2.6,实现全国产算力下的模型训练与推理,长上下文训练效率提升约4倍,推理效率提升4.5倍。同步发布星火语音基座大模型SparkAudio 1.0,整体效果提升20%,响应时间降低15%。推出讯飞星帆WinWork数字员工平台,支持80余类数字员工上线,Token消耗节约44%。

    推荐理由:发布端云一体模型X2.6及SparkAudio 1.0,通过长程训练与动态并行技术,实现全国产算力下的高效推理与成本优化。

  2. arXiv · ML40

    FunctionGemma 270M-it 扩展至移动端函数调用

    研究团队将 FunctionGemma 270M-it 扩展至 Android 场景,端侧函数调用准确率从基线的 29.3% 提升至 76.5%。 团队引入约 9500 条对话的 MOBILEACTIONSEXTENDED 数据集,覆盖 15 类设备控制指令,并开源了模型与训练代码。 该方案为低延迟、隐私保护的本地移动助手提供了可行的技术路径。

  3. arXiv · ML25

    苹果芯片 LLM 推理优化的适用性评估

    研究评估了 KV-cache 修剪、推测解码、内核移植和量化在苹果芯片上的表现,发现其收益高度依赖硬件与负载。 KV-cache 修剪在苹果平台上最高可达 1.75 倍吞吐,但推测解码在单请求解码下反而降低性能。该论文已被 NeurIPS 2026 设备端智能(ODI)和 SLM 代理系统(SLM-Agents)研讨会接收。

  4. arXiv · ML29

    部署约束如何反转时序模型选择:能耗与延迟优先

    在蜂窝网络切换预测场景中,仅关注准确度的基准测试会将实际无法部署的模型排为第一。 评估涵盖 8 种架构,基于手工时间特征的梯度提升树最准确(F1=0.974)且成本最低;而精度基准常排第一的 CNN-1D(F1=0.914)在占空比部署模式下每次推理能耗超过前者 3 倍。 该结果揭示仅基于准确度的评估不仅低估部署成本,还会推举不可行的模型。

  5. arXiv · AI21

    AgentDP:面向异构嵌入式 AI 应用的全自动模型部署框架

    AgentDP 利用 LLM 智能体实现异构嵌入式设备上预训练模型的全自动优化与适配,将模型适配时间最多减少 80%,且平均任务准确率比基线提高 13% 以上。 该框架通过用户需求标准化、算子感知的模型分割及超参数配置复用模块,解决 AI 模型与嵌入式设备执行环境不匹配及重复搜索优化参数的问题。 用户研究证明 AgentDP 在适配不同用户需求和异构嵌入式设备时具备良好的通用性。

10月22日周四
  1. arXiv · ML24

    No Frames, Just Frequencies:智能眼镜带宽高效的部署时适应框架

    该框架利用端侧计算的紧凑频率描述符替代图像传输,实现智能眼镜的部署时适应。 测试显示,仅依赖描述符的适应在 ConvNeXtV2-Femto、DeiT-Tiny 和 TinyViT-5M 上恢复了 93%-95% 的监督适应增益。 频率分辨率从 224 降至 28 像素时适应质量优雅降级,带宽缩减达 213 倍至 784 倍。

  2. arXiv · ML33

    QSelect 如何在行为保真度约束下压缩空间机器人车载语言模型

    研究者提出 QSelect 方法,通过组合 AWQ、GPTQ 和 AutoRound 静态低比特检查点,生成单一压缩模型以满足空间机器人的内存预算和静态制品要求。 在 Llama-3.1-8B 和 Llama-3.2-3B 上,3 比特目标适应模式使 3-bit 池化准确率比最佳单家族模型分别提高 4.3 和 4.5 点,且 3 比特下未量化嵌入和输出层占打包制品的 43-46%。

  3. arXiv · ML35

    边缘 VLM 时代物理对抗鲁棒性的统一评估框架

    研究提出条件攻击成功率(cASR)统一指标,评估边缘视觉语言模型(VLM)对抗物理对抗补丁的鲁棒性。 发现紧凑定位 VLM 的脆弱性与目标检测器相当,且失败模式主要取决于输出格式而非架构家族。 分布偏移下,原本因遗漏失败的 VLM 会转为位移或替代,产生更危险的置信度高的错误框。

  4. arXiv · AI25

    SAKURA:手机端私密图像编辑中注意力KV状态的速率自适应服务架构

    SAKURA 提出一种云边协同架构,在带宽受限下向手机设备传输可复用的注意力 KV 状态,用于扩散模型图像编辑任务。 该架构采用细粒度 token 重要性感知压缩方法,运行时根据网络带宽自适应选择缓存表示,并通过流水线执行将缓存传输、重建与设备端计算重叠。

  5. arXiv · ML27

    基于头派生聚类的个性化联邦学习 (HDC-FL)

    提出 HDC-FL 算法,利用分类器头信号指导个性化联邦学习中表示共享。 在 11 种 CIFAR-10/100 配置下测试,该方法在宏观平均最差客户端及后 20% 准确率上取得最高数值。 实验显示头相似度与编码器兼容性正相关,尤其在协变量偏移下表现明显。

  6. arXiv · ML24

    基于 VLC 室内定位的跨区迁移学习与迁移效率评分框架

    该论文提出了一种基于可见光通信(VLC)的室内定位迁移学习框架,通过迁移效率评分(TES)选择最优源模型,使目标区域仅需 40% 数据即可恢复 97% 性能。 该框架在未知区域验证中实现 3.28 cm 平均误差,定位误差低至 40.9 cm,成功率超 86%,显著降低了部署成本与计算负担。

  7. arXiv · AI35

    SLoSa:面向机器人任务规划的小型、低功耗且安全的基础模型

    SLoSa 框架通过神经符号压缩与微调,训练出兼具小型化、低功耗及安全意识的基础模型机器人任务规划器。 该框架经 PDDL 领域测试,将 4B-14B 规划器成功率提升至 70.5-76.0%,Jetson Orin 上 INT4 部署平均功耗为 17.85-26.41 W。 实验验证了其在家用模拟与实体机械臂等多样化机器人任务场景中的适用性。

  8. arXiv · ML25

    BrainCodes:基于离散神经编码的轻量级 EEG 基础模型

    BrainCodes 是一个轻量级 EEG 基础模型,使用比同类架构少 97% 的可训练参数,并在睡眠分期等任务上达到或超越最先进水平。 该模型在超过 800 小时、1000 多名参与者的记录上进行自监督预训练,架构结合量化神经分词器和时空编码器,支持任意电极配置,并有效迁移至低资源可穿戴设备。

  9. arXiv · ML25

    SSMCGM-Stream:用于个性化糖尿病管理的流式状态空间模型

    研究团队发布SSMCGM-Stream流式状态空间模型,结合SSMCGM-Agent提供风险感知的自然语言决策支持。 该模型通过常驻隐藏状态实现常数时间预测和生理结构化反事实推理,在T1DEXI队列上达到与强神经基线模型相当的预测性能并大幅降低计算成本。 这使得基于设备的连续糖尿病决策支持成为可能。

  10. arXiv · ML28

    SCOPE: 用于长尾联邦学习的可扩展免训练语义核心集选择

    SCOPE 提出一种免训练的联邦学习核心集选择框架,利用冻结的视觉语言模型对样本进行单次评分,无需预热训练且仅单次上传基于类别数量的标量统计。 在 4 个数据集上,SCOPE 选择速度提升 7.7 倍,上传数据减少 293 倍;使用其核心集训练全局模型,能在比全量数据训练少 18%–42% 的全局轮次内达到全量数据 98% 的精度。

  11. arXiv · ML22

    视觉语言动作模型故障归因:移除视觉破坏的影响评估

    研究提出故障归因问题,旨在通过分解风险模型评估移除特定视觉破坏对 VLA 模型的影响。 模型无需配对的干净图像或反事实执行即可估计移除收益,在 OpenVLA 和 $\pi_{0.5}$ 等模型上验证,归因误差比前沿 VLM 基线低约 3 倍。 该方法可适应执行上下文和破坏强度,并支持硬件上的在线故障监控。

10月21日周三
  1. NVIDIA Blog59

    NVIDIA GTC Berlin 本地 AI 硬件更新:RTX Spark 支持个人智能体,发布 Recursive Flint 模型

    NVIDIA 在 GTC Berlin 展示了本地 AI 硬件全线更新,RTX Spark 现已支持运行 Underdog 桌面智能体,实现个人智能体在 Windows PC 端侧运行。同步推出 Recursive Flint 本地编码模型,该 40B 参数 MoE 模型在 Apache 2.0 许可下开放,并优化了 llama.cpp 与 vLLM 推理引擎以加速端侧 Agent 任务。

  2. NVIDIA Blog83

    NVIDIA GTC Berlin 2026:Jensen Huang 主题演讲重点更新

    Jensen Huang 在 GTC Berlin 2026 主题演讲中宣布 NVIDIA 在欧洲技术生态的投资接近 100 亿美元。NVIDIA 推出了用于快速部署 AI 工厂的 DSX POD,以及包含 Nemotron 和 Cosmos 等在内的前沿开源模型套件。演讲还介绍了 OpenShell 智能体安全架构、Agile ONE SN 机器人参考平台以及 RTX Spark 笔记本电脑。

    推荐理由:原文汇总了NVIDIA在欧洲的巨额投资、新硬件交付与机器人参考设计,读者可以据此把握其对区域算力与产业生态的规划。

  3. arXiv · AI31

    HFS 框架用于设备端智能体增强实时通信

    HFS 是一种设备端智能体增强实时通信(RTC)框架,通过应用层协调器联合控制视频流和智能体上下文流的发送速率。 原型基于 WebRTC 构建,实验显示 HFS 相比基线实现了 1.5 倍的视频质量提升,并将智能体响应时间减少 31%。 该方案旨在解决隐私风险与可扩展性成本问题,相关研究已被 USENIX NSDI 2027 接收。

  4. arXiv · AI27

    Industrial ReMEmbR:扩展 NVIDIA ReMEmbR 至机器人集群的时空共享记忆系统

    Industrial ReMEmbR 扩展 NVIDIA ReMEmbR 至机器人集群,通过按需生成场景描述降低服务端计算成本。 系统利用 Jetson 编码视频,结合 Cosmos-Embed1、Cosmos3-Edge 及 Wan2.2 VAE 生成嵌入与视觉 token。 设计消除写入时字幕生成,450 次测试中缓存 token 解码复现了未分割模型的输出。

10月20日周二
  1. 阿里语音AI67

    阿里云百炼多模态交互套件升级 Qwen-Audio-3.1 语音模型

    阿里云百炼多模态交互套件升级 Qwen-Audio-3.1 语音模型,提供低延时流式 ASR 与流式 TTS 能力,支持30种语言和16种中文方言。TTS在 Artificial Analysis 语音排行榜中取得1177 Elo评分;相较上一代,TTS 价格降低约70%,ASR 价格降幅达95%。

    推荐理由:升级聚焦ASR与TTS两端能力与成本,开发者可据具体指标评估硬件接入路径。

  2. 面壁智能90

    面壁智能开源前瞻专家调度(LES)推理技术,实现35B MoE手机实时运行

    MiniCPM-V 团队开源了前瞻专家调度(LES)技术,首次实现35B-A3B规模MoE模型在iPhone 18 Pro Max上以超过20 token/s速度实时无损运行。该系统通过预测下一层专家提前加载权重、优化存储布局与混合精度量化、结合DSpark批量验证,在M4 iPad上以3GB内存配置实现了9.6 token/s的解码速度,相关代码已在GitHub开源。

    推荐理由:原文给出了调度、存储和计算三层系统的具体设计,读者可以据此理解35B MoE模型如何在不增加训练成本的情况下实现端侧实时运行。

  3. arXiv · AI42

    FlashRT-PAI:面向物理 AI 的低延迟推理引擎

    FlashRT-PAI 是一款基于模型硬件流水线协同设计的低延迟推理引擎,旨在解决视觉语言动作模型中由系统级开销主导的延迟瓶颈。 它通过深度算子融合、执行契约和状态胶囊机制,在 RTX 5090 和 Jetson AGX Thor 上实现 1.3-3.7 倍加速(匹配精度)及最高 12.66 倍加速(低精度)。

  4. arXiv · ML29

    ELSA:面向隐私感知分层联邦学习的 LLM 高效分裂聚合

    ELSA 是一个整合分裂学习与分层联邦学习(HFL)的分布式微调框架,旨在解决资源受限边缘网络中 LLM 训练的计算、通信与隐私挑战。 它引入任务无关且感知行为的客户端聚类、资源感知动态模型分区及结合计算草图与语义子空间正交扰动(SS-OP)的技术,以降低通信开销并缓解隐私泄露。