Qoder 支持国产芯片与操作系统
Qoder 现已支持 Linux ARM64 与龙芯 LoongArch64 平台,并适配统信 UOS 及银河麒麟操作系统,将智能体协作能力延伸至国产桌面环境。
Qoder 现已支持 Linux ARM64 与龙芯 LoongArch64 平台,并适配统信 UOS 及银河麒麟操作系统,将智能体协作能力延伸至国产桌面环境。
科大讯飞发布端云一体星火X2.6,实现全国产算力下的模型训练与推理,长上下文训练效率提升约4倍,推理效率提升4.5倍。同步发布星火语音基座大模型SparkAudio 1.0,整体效果提升20%,响应时间降低15%。推出讯飞星帆WinWork数字员工平台,支持80余类数字员工上线,Token消耗节约44%。
推荐理由:发布端云一体模型X2.6及SparkAudio 1.0,通过长程训练与动态并行技术,实现全国产算力下的高效推理与成本优化。
研究团队将 FunctionGemma 270M-it 扩展至 Android 场景,端侧函数调用准确率从基线的 29.3% 提升至 76.5%。 团队引入约 9500 条对话的 MOBILEACTIONSEXTENDED 数据集,覆盖 15 类设备控制指令,并开源了模型与训练代码。 该方案为低延迟、隐私保护的本地移动助手提供了可行的技术路径。
研究者发布 FIGFLEX,这是首个将混合精度量化与 bit-parallel 数据通路协同设计的 FP-INT GEMM 加速器。 该加速器通过 radix-4 乘法重构和 INT3 优化,在保持精度的同时显著提升算力效率。 在 LLaMA-2-7B 模型上,3-bit 混合精度下全芯片吞吐量比 AxCore 高 1.56 倍。
研究评估了 KV-cache 修剪、推测解码、内核移植和量化在苹果芯片上的表现,发现其收益高度依赖硬件与负载。 KV-cache 修剪在苹果平台上最高可达 1.75 倍吞吐,但推测解码在单请求解码下反而降低性能。该论文已被 NeurIPS 2026 设备端智能(ODI)和 SLM 代理系统(SLM-Agents)研讨会接收。
在蜂窝网络切换预测场景中,仅关注准确度的基准测试会将实际无法部署的模型排为第一。 评估涵盖 8 种架构,基于手工时间特征的梯度提升树最准确(F1=0.974)且成本最低;而精度基准常排第一的 CNN-1D(F1=0.914)在占空比部署模式下每次推理能耗超过前者 3 倍。 该结果揭示仅基于准确度的评估不仅低估部署成本,还会推举不可行的模型。
AgentDP 利用 LLM 智能体实现异构嵌入式设备上预训练模型的全自动优化与适配,将模型适配时间最多减少 80%,且平均任务准确率比基线提高 13% 以上。 该框架通过用户需求标准化、算子感知的模型分割及超参数配置复用模块,解决 AI 模型与嵌入式设备执行环境不匹配及重复搜索优化参数的问题。 用户研究证明 AgentDP 在适配不同用户需求和异构嵌入式设备时具备良好的通用性。
GANet 是一种轻量级分组等价注意力网络,在 PlantVillage 数据集上识别 38 种植物病害,准确率达 99.99%。 该模型参数量仅 0.001M,在 Raspberry Pi 4b 和 Jetson Nano 上分别达到 5 FPS 和 11 FPS,支持边缘部署。
该框架利用端侧计算的紧凑频率描述符替代图像传输,实现智能眼镜的部署时适应。 测试显示,仅依赖描述符的适应在 ConvNeXtV2-Femto、DeiT-Tiny 和 TinyViT-5M 上恢复了 93%-95% 的监督适应增益。 频率分辨率从 224 降至 28 像素时适应质量优雅降级,带宽缩减达 213 倍至 784 倍。
研究者提出 QSelect 方法,通过组合 AWQ、GPTQ 和 AutoRound 静态低比特检查点,生成单一压缩模型以满足空间机器人的内存预算和静态制品要求。 在 Llama-3.1-8B 和 Llama-3.2-3B 上,3 比特目标适应模式使 3-bit 池化准确率比最佳单家族模型分别提高 4.3 和 4.5 点,且 3 比特下未量化嵌入和输出层占打包制品的 43-46%。
研究提出条件攻击成功率(cASR)统一指标,评估边缘视觉语言模型(VLM)对抗物理对抗补丁的鲁棒性。 发现紧凑定位 VLM 的脆弱性与目标检测器相当,且失败模式主要取决于输出格式而非架构家族。 分布偏移下,原本因遗漏失败的 VLM 会转为位移或替代,产生更危险的置信度高的错误框。
SAKURA 提出一种云边协同架构,在带宽受限下向手机设备传输可复用的注意力 KV 状态,用于扩散模型图像编辑任务。 该架构采用细粒度 token 重要性感知压缩方法,运行时根据网络带宽自适应选择缓存表示,并通过流水线执行将缓存传输、重建与设备端计算重叠。
提出 HDC-FL 算法,利用分类器头信号指导个性化联邦学习中表示共享。 在 11 种 CIFAR-10/100 配置下测试,该方法在宏观平均最差客户端及后 20% 准确率上取得最高数值。 实验显示头相似度与编码器兼容性正相关,尤其在协变量偏移下表现明显。
该论文提出了一种基于可见光通信(VLC)的室内定位迁移学习框架,通过迁移效率评分(TES)选择最优源模型,使目标区域仅需 40% 数据即可恢复 97% 性能。 该框架在未知区域验证中实现 3.28 cm 平均误差,定位误差低至 40.9 cm,成功率超 86%,显著降低了部署成本与计算负担。
SLoSa 框架通过神经符号压缩与微调,训练出兼具小型化、低功耗及安全意识的基础模型机器人任务规划器。 该框架经 PDDL 领域测试,将 4B-14B 规划器成功率提升至 70.5-76.0%,Jetson Orin 上 INT4 部署平均功耗为 17.85-26.41 W。 实验验证了其在家用模拟与实体机械臂等多样化机器人任务场景中的适用性。
BrainCodes 是一个轻量级 EEG 基础模型,使用比同类架构少 97% 的可训练参数,并在睡眠分期等任务上达到或超越最先进水平。 该模型在超过 800 小时、1000 多名参与者的记录上进行自监督预训练,架构结合量化神经分词器和时空编码器,支持任意电极配置,并有效迁移至低资源可穿戴设备。
研究团队发布SSMCGM-Stream流式状态空间模型,结合SSMCGM-Agent提供风险感知的自然语言决策支持。 该模型通过常驻隐藏状态实现常数时间预测和生理结构化反事实推理,在T1DEXI队列上达到与强神经基线模型相当的预测性能并大幅降低计算成本。 这使得基于设备的连续糖尿病决策支持成为可能。
FEAST 提出联邦共享空间训练框架,通过子超网路由和稀疏聚合解决客户端推理预算差异导致的参数访问不均问题。在 596M 推理 MACs 下,FEAST 达到 71.06% 准确率,比最强权重共享基线高 2.4 点;子超网路由将总模型参数通信流量减少 6.8 倍。
SCOPE 提出一种免训练的联邦学习核心集选择框架,利用冻结的视觉语言模型对样本进行单次评分,无需预热训练且仅单次上传基于类别数量的标量统计。 在 4 个数据集上,SCOPE 选择速度提升 7.7 倍,上传数据减少 293 倍;使用其核心集训练全局模型,能在比全量数据训练少 18%–42% 的全局轮次内达到全量数据 98% 的精度。
研究提出故障归因问题,旨在通过分解风险模型评估移除特定视觉破坏对 VLA 模型的影响。 模型无需配对的干净图像或反事实执行即可估计移除收益,在 OpenVLA 和 $\pi_{0.5}$ 等模型上验证,归因误差比前沿 VLM 基线低约 3 倍。 该方法可适应执行上下文和破坏强度,并支持硬件上的在线故障监控。
研究人员提出流形感知神经网络(MINN),用于从12导联心电图中推断钾、钙和镁水平。该模型通过求解学习潜空间中的离散泊松方程,替代了传统物理信息神经网络(PINNs)的物理算子残差项。
论文提出一种数据高效的分割计算头部网络训练方法,利用联邦学习与知识蒸馏,仅需少量非 IID 且未标注的移动端数据即可完成训练。 该方法在隐私保护下实现个性化,在移动端通信需求降低 95% 的同时,准确率仅比原模型下降 3-5 个百分点。
论文提出 LEAF,首个纳秒级 FPGA 原生 LUT 感知 Transformer,通过 LUT 感知训练将 query/key/value 投影及输出层转化为 FPGA 原生结构。
NVIDIA 在 GTC Berlin 展示了本地 AI 硬件全线更新,RTX Spark 现已支持运行 Underdog 桌面智能体,实现个人智能体在 Windows PC 端侧运行。同步推出 Recursive Flint 本地编码模型,该 40B 参数 MoE 模型在 Apache 2.0 许可下开放,并优化了 llama.cpp 与 vLLM 推理引擎以加速端侧 Agent 任务。
Jensen Huang 在 GTC Berlin 2026 主题演讲中宣布 NVIDIA 在欧洲技术生态的投资接近 100 亿美元。NVIDIA 推出了用于快速部署 AI 工厂的 DSX POD,以及包含 Nemotron 和 Cosmos 等在内的前沿开源模型套件。演讲还介绍了 OpenShell 智能体安全架构、Agile ONE SN 机器人参考平台以及 RTX Spark 笔记本电脑。
推荐理由:原文汇总了NVIDIA在欧洲的巨额投资、新硬件交付与机器人参考设计,读者可以据此把握其对区域算力与产业生态的规划。
HFS 是一种设备端智能体增强实时通信(RTC)框架,通过应用层协调器联合控制视频流和智能体上下文流的发送速率。 原型基于 WebRTC 构建,实验显示 HFS 相比基线实现了 1.5 倍的视频质量提升,并将智能体响应时间减少 31%。 该方案旨在解决隐私风险与可扩展性成本问题,相关研究已被 USENIX NSDI 2027 接收。
Industrial ReMEmbR 扩展 NVIDIA ReMEmbR 至机器人集群,通过按需生成场景描述降低服务端计算成本。 系统利用 Jetson 编码视频,结合 Cosmos-Embed1、Cosmos3-Edge 及 Wan2.2 VAE 生成嵌入与视觉 token。 设计消除写入时字幕生成,450 次测试中缓存 token 解码复现了未分割模型的输出。
研究提出BitMTP框架,结合超低比特骨干网与多令牌预测,在保持质量前提下实现加速。 在NVIDIA H20上,混合解码使BitNet b1.58-2B平均加速2.2倍;在RTX 3090和Jetson Orin上分别实现2.0倍和3.3倍加速。 该成果已被NeurIPS 2026接收,源码已公开。
推理型驾驶 VLA 模型能感知危险却未将其转化为安全动作,存在“感知-行动绑定缺口”。通过向冻结的 Alpamayo-1.5 流匹配采样器注入危险条件能量,足迹入侵率从 58.1% 降至 14.5%,并恢复安全制动。
针对边缘设备上模型解包导致的跨节点攻击,研究提出 VeilNN 防御框架。 该框架通过在架构和参数层引入受控多样性混淆,有效降低对抗样本的转移性。 实验显示其平均防御成功率为 49.19%,最高达 81.19%,比现有方法提升超 33.16%。
MedPAO-Assist 是一个支持边缘部署的放射学报告结构化智能体框架,支持胸部 X 光、胸部 CT 等 4 种模态,可在标准笔记本 CPU 上运行,峰值内存约 3.3GB,端到端延迟约 31秒。
Hugging Face 团队发布 AnyLanguageModel 1.0 及配套 Swift 框架,在 Apple 平台实现统一 API,支持本地模型通过 llama.cpp、MLX 或 Core ML 运行,并兼容 OpenAI、Google Gemini、Anthropic 等云端服务。
PyTorch 2.15 在 MPS 后端引入 FP8 支持,并将多项核心算子迁移至 Metal kernel。
推荐理由:M3 Ultra 上 Qwen3.6-35B-A3B 解码速度提升 5.5 倍至 61.3 tokens/s,且视频生成显存占用从 270GB 降至 8GB。
阿里云百炼多模态交互套件升级 Qwen-Audio-3.1 语音模型,提供低延时流式 ASR 与流式 TTS 能力,支持30种语言和16种中文方言。TTS在 Artificial Analysis 语音排行榜中取得1177 Elo评分;相较上一代,TTS 价格降低约70%,ASR 价格降幅达95%。
推荐理由:升级聚焦ASR与TTS两端能力与成本,开发者可据具体指标评估硬件接入路径。
MiniCPM-V 团队开源了前瞻专家调度(LES)技术,首次实现35B-A3B规模MoE模型在iPhone 18 Pro Max上以超过20 token/s速度实时无损运行。该系统通过预测下一层专家提前加载权重、优化存储布局与混合精度量化、结合DSpark批量验证,在M4 iPad上以3GB内存配置实现了9.6 token/s的解码速度,相关代码已在GitHub开源。
推荐理由:原文给出了调度、存储和计算三层系统的具体设计,读者可以据此理解35B MoE模型如何在不增加训练成本的情况下实现端侧实时运行。
2026科大讯飞全球1024开发者节科博展于10月22日在合肥启动。 展区展出讯飞星火X2.6及“飞星平台”,后者基于昇腾生态支撑万亿参数模型训练。涵盖智慧座舱、AI眼镜及脑机接口康复系统,并开放实验室供公众探访。
研究提出名为 EMRFormer 的脉冲神经网络(SNN)架构,用于在资源受限设备上实现自动调制识别(AMR)。该模型结合脉冲可分离卷积网络与 Spike-Driven Transformer,在主流数据集上取得最先进的准确率,并在低信噪比环境下保持强劲性能,同时将理论能耗降低超过 90%。
BetaMem 框架通过六层可追溯记忆机制解决具身智能体长期任务中的时序混淆与存储成本问题。该框架使用 Qwen3.5-9B 模型生成记忆,在 M3-Bench-robot、LoCoMo 等基准测试中分别取得 48.08%、92.08% 的成绩,合同通过率提升至 86.2%。其在跨观察信息整合与长历史事件回忆方面展现出优势。
FlashRT-PAI 是一款基于模型硬件流水线协同设计的低延迟推理引擎,旨在解决视觉语言动作模型中由系统级开销主导的延迟瓶颈。 它通过深度算子融合、执行契约和状态胶囊机制,在 RTX 5090 和 Jetson AGX Thor 上实现 1.3-3.7 倍加速(匹配精度)及最高 12.66 倍加速(低精度)。
ELSA 是一个整合分裂学习与分层联邦学习(HFL)的分布式微调框架,旨在解决资源受限边缘网络中 LLM 训练的计算、通信与隐私挑战。 它引入任务无关且感知行为的客户端聚类、资源感知动态模型分区及结合计算草图与语义子空间正交扰动(SS-OP)的技术,以降低通信开销并缓解隐私泄露。