跳到正文
11月10日周二
  1. arXiv · NLP39

    MNN-Pocket-0.3B 技术报告发布

    MNN-Pocket-0.3B 开源发布,这是专为端侧部署设计的 3 亿参数稠密语言模型。 该模型支持 32K 上下文,INT4 部署体积仅 173MB,在 iPad Pro M5 上解码吞吐量达 466 tokens/s。 基于约 4.1 万亿中英文 token 预训练,其在同类开源模型中表现领先,并优于部分 0.5B 参数模型。

  2. arXiv · NLP38

    Hibana:统一内存设备上的快速智能体推理引擎

    Hibana 是针对统一内存设备设计的推理引擎,通过模型手术、统一内存管理和自适应推测解码协同优化,支持本地多智能体负载。 在单台 DGX Spark 上运行 125B 参数的 Qwen 和 Nemotron 模型时,Hibana 每小时可完成比 vLLM、NVIDIA Flare、TensorFold 等框架多 3.4 倍的智能体任务,解码吞吐量提升高达 3.9 倍。代码已开源。

11月9日周一
  1. arXiv · AI28

    Embedded Arena: 基于硬件反馈的嵌入式 LLM 智能体迭代优化

    Embedded Arena 框架利用 LLM 智能体在真实硬件反馈下迭代优化边缘模型。Claude Opus 4.7 等前沿模型在无硬件反馈时部署成功率为 0%。 该框架实现 3 次迭代内成功部署,视觉模型压缩 250 倍且准确率损失小于 3.3%。 应用于鹿类检测相机和儿童语音追踪穿戴设备,支持太阳能供电商业 MCU。

  2. arXiv · ML40

    CHA 与 SensorWM 驱动的个性化健康教练框架

    研究提出可解释的健康年龄指标 CHA 及基于 220 万 person-weeks 数据预训练的 SensorWM 模型,实现个性化 12 周健康计划生成。 模型在盲测中优于传统方案:认证教练对整体质量(71.4%)和预期依从性(71.0%)的偏好度显著提升,且 99.2% 的计划符合临床安全标准。 该框架通过闭环整合轨迹预测与反事实推理,为系统性改善心脏代谢健康提供可扩展路径。

11月7日周六
11月6日周五
  1. arXiv · ML21

    基于 NXP MCXN947 微控制器 NPU 的关键词识别实现

    NXP MCXN947 微控制器实现了支持实时语音交互的关键词识别(KWS)系统。 该系统结合 MFCC 特征提取与 CNN 分类器,经量化感知训练(QAT)优化后,模型大小为 30.58 KB,准确率达 97.06%,NPU 推理比纯 CPU 快 59 倍。 此方案证实了嵌入式平台运行高效、低功耗语音接口的可行性。

  2. arXiv · ML27

    KvLIF 神经元模型提升脉冲神经网络容量与鲁棒性

    研究团队提出钾离子通道调节 LIF(KvLIF)神经元模型,通过在静态图像和神经形态数据集上的广泛评估,证实其在分类准确性和鲁棒性方面优于现有 LIF 模型。 KvLIF 引入辅助电导状态,结合膜电位和脉冲历史自适应调节神经元兴奋性和重置动态,从而扩展响应范围并抑制噪声引起的脉冲。 该设计在保持生物合理性的同时兼顾计算效率,适用于低功耗神经形态部署场景。

11月5日周四
  1. Hugging Face Blog69

    Gradium 端侧语音模型 Phonon 开源,性能与速度领跑 Hugging Face Open TTS Leaderboard

    Gradium 于两周前推出并开源了小型端侧文本转语音模型 Phonon,该模型无需服务器与网络即可运行。目前 Phonon 提供约 65 MB 和 75 MB 两种尺寸,支持英、法、德、西、葡五种语言,并内置 100 多种预设音色。

    推荐理由:展示了高性能TTS模型在端侧落地时的架构平衡策略,以及通过多语言支持与流式响应技术实现的质量跃升。

  2. arXiv · AI21

    Human Motion Prediction 中通过持续先验补偿实现时序预测

    研究者提出持续先验补偿框架(CPC)及增强版 CPC++,以解决人类动作预测中短期预测受长期预测干扰的问题。 该框架将预测任务划分为多个子任务并分阶段训练,通过引入可学习的先验补偿因子(PCF)及细粒度先验补偿因子(FGPCF)来显式衡量和缓解先验知识遗忘。 在三个基准数据集及 PGBIG、siMLPe 等主流模型上的实验证实了该方法的有效性与灵活性,相关成果已被 IEEE TPAMI 接收。

  3. arXiv · AI22

    AMD GPU LLM 训练实现层级数据流水优化

    该 AMD LLM 训练系统利用 TDM、转置加载及 SDMA/RDMA 指令实现数据移动与计算重叠,消除等待瓶颈。 kernel 级测试中 TDM 平均加速 1.88 倍,转置加载加速 1.19 倍;通信重叠下 SDMA 和 RDMA 分别实现 1.16 倍和 1.33 倍加速。 这是首个利用所有 GPU 数据流水特性的 AMD LLM 训练系统,相关实现已集成到开源框架和库中。

  4. arXiv · AI26

    置信门控分层 LLM 推理的可行性条件

    研究者给出了一个闭式条件,用于判断在何种情况下基于置信度信号的 LLM 分层级联比将查询全部路由至中心节点更具价值。 该条件通过引入架构成本比 $\kappa$ 来区分本地计算成本,并划定了存在可行阈值区间(信号下限与完美信号上限)的条件。 当本地计算为沉没成本时,级联的可行性变得无条件,信号质量决定了最终收益;这一发现为现有的分层系统提供了设计依据。

  5. arXiv · NLP39

    通过微调 Qwen 3.5 27B 实现 AI 心理健康对话中的被动抑郁严重程度评估

    研究团队通过微调 Qwen 3.5 27B 实现被动抑郁监测,在 422 名用户上取得 MAE 3.98 和临床阈值 AUC 0.88。 模型结合 3,111 个真值标签与伪标签扩展至 5,524 名用户,Pearson 相关系数达 0.67,覆盖了从 PHQ-9 分数 3 到 24 的全谱系严重程度。 该结果支持无需自报问卷的被动抑郁监测。

  6. Hugging Face Blog70

    Dharma-AI 发布 Dharma Field Extractor:2B 参数文档字段抽取模型

    Dharma-AI 发布 Dharma Field Extractor,这是一个 2B 参数文档字段抽取模型,能从任意文档类型提取指定字段并输出结构化 JSON,其性能在测试中优于所有前沿 LLM,且成本大幅降低。该模型基于 DharmaOCR-LITE v1.1,通过 43,384 个训练样本上的 LoRA 适配器微调,支持开放式(无 schema)和 Schema 导向两种请求模式。

    推荐理由:Dharma-AI 在官方开源平台上发布了 2B 参数字段抽取模型,给出了相对前沿大模型的 F1 差距和自托管成本区间。

11月4日周三
  1. 面壁智能28

    面壁智能成首家通过端侧AI模型性能测试企业

    面壁智能成为首家通过“端侧AI模型性能测试”的企业,其自主研发的MiniCPM 5-1B模型同时通过了“端侧AI模型安全测试”。 性能测试覆盖推理时延、吞吐量等7大维度共22项指标;安全测试涵盖6类项目,实测18项全部合格。 中国信息通信研究院及中国泰尔实验室出具报告确认检验通过,为端侧模型选型提供参考。

  2. arXiv · ML33

    边缘AI与TinyML在资源受限农业中的应用:硬件平台、模型优化与部署策略

    边缘AI与TinyML在精准农业部署中日益关键,微控制器(如ESP32、STM32)为主要终端,近50%研究采用量化降低精度。 结构化剪枝、硬件感知神经架构搜索及跨层协同优化应用有限;资源数据(如Flash、峰值RAM、MAC次数)报告不一致,限制可复现性。 普遍存在推理-训练不对称性:推理趋向本地设备,模型训练与生命周期管理仍保持集中式处理。

  3. arXiv · ML28

    EC-MobiLLM 实现异构移动设备与异构骨干的高效协作 LLM 微调

    EC-MobiLLM 采用服务器辅助边微调范式和非阻塞异步协作,解决异构移动设备 LLM 微调中的资源开销与同步聚合瓶颈。 实验显示其计算开销降低至少 95.2%,通信成本降低 93.2%,收敛速度比现有方法快 5.1 倍,且保持稳健的微调性能。 该设计支持跨异构骨干对齐,已被 NeurIPS 2026 接收,验证了其在实际 LLM 适配中的有效性。

  4. arXiv · ML44

    移动端 LLM 训练系统 MobileSpec 发布:基于前向-only 优化的块谱坐标方法

    MobileSpec 系统通过仅使用前向传播和 RLVR 训练轻量级 LLM 专家模型,解决了设备内存限制问题,无需反向传播。 其核心算法 FuRA-S 通过更新预训练权重的块谱坐标(列块奇异值)实现高效训练,且能适配 INT4 模型。 1-5 MB 的专家模型可更新 0.015-0.05% 参数,将手机使用智能体的成功率从 6-23% 提升至 89-100%。

  5. arXiv · ML48

    Sketchpad:利用小型视觉语言模型实现经认证的精确算术

    Qwen3.5-0.8B 配合低秩适配器在 Sketchpad 框架中实现了任意长度算术的精确计算,所有 2,446 个视图测试均通过。该模型在浏览器运行,解决了 200/200 预注册问题及长位数加减乘除运算,表现优于 GPT-6.1 Sol。 代码采用 Apache 2.0 许可证开源,符号运行时支持多项式求解与因式分解,适配器门控可恢复基础模型功能。

  6. arXiv · AI35

    领域超级智能 (DSS) 模型:生成式 AI 的替代发展路径

    作者提出了领域特定超级智能 (DSS) 的替代路径,旨在应对推理模型高算力消耗及单体模型扩展面临的物理瓶颈。 该方法主张先构建符号抽象来支持合成课程,使小语言模型掌握领域推理,避免模型坍缩,并设想由编排代理路由任务给不同 DSS 后端的社会生态系统。 此范式将能力与规模解耦,推动智能从能源密集的数据中心向设备端专家迁移,实现可持续的经济赋能。

  7. arXiv · AI33

    Mobile AI 2026 挑战报告:在移动 GPU 上实现学习式智能手机 ISP

    Mobile AI 2026 挑战要求在移动端 GPU 上从 RAW 数据重建 RGB 图像。参赛模型需在骁龙 8 Elite Gen 5 和天玑 9500 芯片上运行,基于 FujiFilm UltraISP 数据集进行训练。 头部方案在 Adreno 和 Mali GPU 上重建 500 万像素图像耗时均低于 100 毫秒,实现了高性能计算摄影算法在资源受限移动硬件上的有效部署。

  8. arXiv · AI20

    研究提出 AR 眼镜空间记忆系统,结合分层视觉获取与源链接回忆

    该空间记忆系统使光学透视 AR 眼镜能回忆物理交互,双摄像头原型通过分层视觉获取与源链接存储实现分阶段检索。 在 131.35 秒自我中心重放中,获取策略从 648 个监测观测中选出 6 个 RGB 视图,特征提取在 97.7% 的观测上运行,并识别频繁本地推理为剩余成本。 系统为持久 AR 辅助提供了实用的获取到回忆架构,明确界定捕获证据、索引解释与历史主张边界。

11月3日周二
  1. arXiv · NLP26

    小语言模型在网络安全教育中基于评分标准的自动评估

    该研究构建了一台集成轻量级语言模型与视觉语言模型的自动化评估流水线,用于分析学生报告。在低资源环境下,纯文本评估准确率最高可达 97%,富文本评估最高 94%。 流水线在 105 名学生两份学期数据上验证,性能媲美甚至超越大模型,并支持本地部署。它提供开源解决方案,帮助资源受限的教育机构在不依赖云服务的情况下实现辅助评分。