跳到正文
10月20日周二
  1. IT之家24

    王坚院士警示:科技已到分水岭,以后都应以降低自然资源消耗为目的

    中国工程院院士王坚指出,当代科技创新需转为追求可持续发展,未来所有科技都应以降低自然资源消耗为目的。 他直言实现 2030 年碳达峰具有挑战,需彻底改变发展方式,以技术创新减少碳排放而非增加资源消耗。 王坚提出“城市智能”概念,认为借助 AI 高效利用现有资源、减少 60% 水泥用量仍能提供足够住房,实现 Less is more。

  2. arXiv · AI42

    FlashRT-PAI:面向物理 AI 的低延迟推理引擎

    FlashRT-PAI 是一款基于模型硬件流水线协同设计的低延迟推理引擎,旨在解决视觉语言动作模型中由系统级开销主导的延迟瓶颈。 它通过深度算子融合、执行契约和状态胶囊机制,在 RTX 5090 和 Jetson AGX Thor 上实现 1.3-3.7 倍加速(匹配精度)及最高 12.66 倍加速(低精度)。

  3. arXiv · ML29

    ELSA:面向隐私感知分层联邦学习的 LLM 高效分裂聚合

    ELSA 是一个整合分裂学习与分层联邦学习(HFL)的分布式微调框架,旨在解决资源受限边缘网络中 LLM 训练的计算、通信与隐私挑战。 它引入任务无关且感知行为的客户端聚类、资源感知动态模型分区及结合计算草图与语义子空间正交扰动(SS-OP)的技术,以降低通信开销并缓解隐私泄露。

  4. arXiv · ML33

    AutoTailor: 面向多样化边缘设备的自动化高效自适应模型部署

    AutoTailor 是首个实现边缘设备端到端 SuperNet 自适应模型部署的自动化框架。 该框架通过计算图引导编译自动将用户提供的 ML 模型转换为 SuperNets,并引入无学习延迟与准确率预测器。 相比 SOTA 方法,AutoTailor 将 SuperNet 构建代码量减少 10.8–34.5 倍,预测器剖析时间减少 2.2–11.5 倍。

  5. arXiv · ML21

    ATLAS:专家引导的离网野生动物监测卫星回传系统

    ATLAS 系统利用基础模型将专家意图编译为语义评分逻辑,结合强化学习调度器优化离网野生动物监测的卫星回传资源。 在18个离网鲑鱼监测点部署超6个月,ATLAS 实现87.4%的片段选择准确率,较基线高出26.4个百分点,并在低光照期间保持近连续运行,基线此时宕机率为16.0%。

  6. arXiv · ML29

    PACT:在消费级 GPU 上实现 NVFP4 数据流 LoRA 微调

    PACT 是一个利用原生 NVFP4 GEMM 加速冻结投影的 LoRA 微调系统,旨在降低消费者显卡上的计算与内存约束。 在 16GB RTX 5080 上评估显示,该系统通过复用量化 RMSNorm 输出、保存 NVFP4 激活值用于反向传播,并离线使用 GPTQ 校准冻结权重,实现了比现有方法更低的内存占用和更快的微调速度,且保持具有竞争力的准确率。

  7. arXiv · ML21

    闭环智能体中精度升级的任务价值测量

    低精度智能体调用 BF16 模型作为回退时,其价值取决于挽救与损害任务数的差值。 实验基于 Qwen3 智能体在 tau2-bench 进行,模拟 4-bit 权重下,单次动作替换的净收益接近零。 仅当替换动作及后续执行时,部分场景出现正向收益,需结合同精度参照评估。

  8. arXiv · NLP36

    PAAC:隐私感知的智能体设备云协同框架

    PAAC 提出隐私感知的智能体设备云协同框架,将规划器-执行器分解对齐至设备云边界,使角色专业化本身成为隐私机制。 云代理处理保留敏感值推理角色的类型化占位符,设备代理识别敏感片段并蒸馏执行结果,确定性注册表执行替换。 在三个智能体基准测试中,PAAC 提升平均准确率 15-36%,降低平均泄露 2-6 倍,并在 17 个额外基准中保持一致性改进。

  9. arXiv · NLP69

    Muse Glimmer 30B 开源端侧智能体模型发布

    Muse Glimmer 是一个基于 Apache 2.0 许可开源的 300 亿参数因果语言模型,专为消费级硬件设计,集成了多模态感知、多步推理与工具调用功能。模型经过 4-bit 量化优化可在单 GPU 上本地运行,无需云端基础设施,在同量级模型中实现了 agentic benchmark 的领先性能,并支持超过 100 种语言的训练数据。

    推荐理由:Muse Glimmer 作为 30B 参数模型实现了本地智能体功能,为消费级硬件部署多模态推理模型提供了新路径。

  10. IT之家33

    奇瑞全新一代 AI 座舱产品“超能小奇”亮相

    奇瑞在 2026 全球创新大会发布新一代 AI 座舱“超能小奇”,具备超懂你、超能干、超安心三大能力。 该产品拥有自主理解、记忆与共情力,支持全域协同及生态链接,并强化了隐私保护。 作为今年 1 月发布的灵犀智舱“小奇同学”的升级版,它代表了奇瑞汽车座舱智能化的最新进展。

  11. 智东西24

    公开课:NVIDIA DGX Spark 本地部署智能体最佳实践

    NVIDIA DGX Spark 专为本地运行 Agent 设计,搭载 GB10 Grace Blackwell 芯片,具备 1 PFLOP FP4 算力。 设备配备 128GB 一致性内存,支持 2000 亿参数推理与 700 亿参数微调,预装 NVIDIA AI 软件栈。 10月23日,智猩猩联合紫光晓通举办专场,分享 DGX Spark 本地部署最佳实践,降低云端依赖。

10月19日周一
  1. Hacker News LLM32

    隐私 LLM 应用为何重要:开源权重模型与 Merrin 的本地推理实践

    主流云端 AI 助手默认开启模型训练,且数据删除难以彻底,而开源权重模型(如 Gemma、Llama、Qwen)现已能在手机本地运行。 作者开发了隐私应用 Merrin,利用本地推理确保对话、记忆及记录完全保留在用户设备上,支持离线使用且无服务器副本。 该设计消除了数据泄露与商业滥用风险,用户可完全掌控记忆存储与删除,实现真正的数字隐私保护。

  2. Hacker News AI76

    OneMemory 推出跨 AI Agent 共享的自托管记忆库

    OneMemory 是一款自托管共享记忆存储,通过 MCP 或 REST 协议让 Claude Code、Cursor 等多款 Agent 共享同一数据。它采用轻量级 Node.js 和 SQLite 架构,内置写入时的密钥泄露与注入拦截,并支持 Markdown 文件同步与设备间变更追踪。

    推荐理由:OneMemory 将分散在不同设备上的 Agent 记忆统一为单文件 SQLite 存储,提供 MCP 共享与写入安全扫描,适合多客户端协同场景。

  3. 智东西73

    Conway Research发布本地AI助手Underdog,获a16z和Anthropic等机构投资

    Conway Research发布首款个人AI助手Underdog,该产品完全在本地设备运行,支持离线处理邮件、日程及生成图像等任务。Underdog基于Qwen3.8 27B微调模型和自研推理引擎Husky,官方数据显示其在MacBook上处理速度比MLX快4.5倍。公司同步宣布获得a16z及Anthropic旗下投资联合体等的融资,并采取不收集用户数据、从交易分成的商业模式。

  4. IT之家22

    梅赛德斯-奔驰与英伟达深化合作开发下一代辅助驾驶系统

    梅赛德斯-奔驰与英伟达宣布深化战略合作,共同开发下一代辅助驾驶系统,融合奔驰 MB.OS 与英伟达 AI 技术。 NVIDIA Alpamayo Stack 支持城市点到点辅助驾驶及自动泊车,Halos 提供并行安全技术栈,双方旨在开发 SAE-L4 级自动驾驶应用。 该合作将提升奔驰全球生产网络效率,技术应用扩展至汽车工程仿真及数字化生态系统 MO360。

  5. Qoder78

    Qoder 推出 Phone Use 插件

    Qoder 推出 Phone Use 插件,用户通过数据线将 iPhone 连接至 Mac,即可让 AI 直接查看并操作手机界面,完成打开 App、点击、滑动、输入等任务,安卓系统即将支持。该功能要求 Qoder 版本不低于 0.4.5,iOS 版本不低于 16,并需在手机端开启开发者模式。

    推荐理由:原文给出了连接手机的操作路径和三类典型场景,读者可以据此判断它能覆盖哪些日常自动化任务。

  6. IT之家36

    阿里达摩院发布车规增强处理器玄铁 E908A,首发车规产品路线图

    达摩院发布车规增强处理器玄铁 E908A,它是首款同时达到 ASIL-B 和 ASIL-D 标准的 RISC-V CPU IP,单点安全度量(SPFM)业内首次超 90%。 该产品为安全岛、域控、车载网关等场景提供安全可靠的实时计算底座。达摩院同时发布自动驾驶和具身智能产品路线图,下一代 C950A 目标性能将达现有 RISC-V 车规产品的 5 倍。

  7. 面壁智能31

    面壁智能发布大监督智能体,实现风险、内控等五大领域AI监督

    面壁智能正式发布大监督智能体,由MiniCPM系列模型驱动,提供风险、内控、合规、审计、纪检“五位一体”监督能力。 该智能体拥有50+监督技能,覆盖九大业务域,具备7×24预警巡航及端侧离线可用特性。 旨在解决覆盖难等痛点,通过AI原生底座助力企业构建“大监督”格局。

  8. IT之家32

    腾讯 AI 管家 Marvis(马维斯)上架麒麟软件商店,深度适配国产操作系统

    腾讯宣布旗下操作系统层级个人 AI 管家 Marvis(马维斯)上架麒麟软件商店,面向银河麒麟 V10SP1(X86、ARM)版本,支持多款国产 CPU。 Marvis 可自主操控电脑执行屏幕亮度调节、深色模式切换,按指令调用“安全中心”进行病毒查杀与漏洞修复,调用“麒麟管家”清理垃圾,并支持跨端远控及本地文档智能检索。 目前 Marvis 已向政务部门、国资企业及行业伙伴开放合作。

  9. Hacker News AI34

    TurboScribe AI:免注册本地音视频转文字工具

    TurboScribe AI 提供免注册音视频转文字服务,基于 WebAssembly 技术在用户本地设备运行 Whisper 模型。 支持 MP4、MP3 等格式,导出 TXT、SRT 或 VTT 文件;首次运行需下载约 39 MB 模型并缓存。 用户数据无需上传服务器,避免了传统在线服务的隐私泄露风险与按分钟计费限制。

  10. Hacker News AI52

    Chitra Studio 发布 Mac 端 AI 媒体工作站

    Chitra Studio 是一款 Mac 端 AI 媒体工作站应用,支持使用 60 多种模型生成和管理 AI 图像、视频、语音及音效。应用提供多模型对比生成功能,允许用户在同一提示词下并排查看不同模型结果,支持局部编辑、静态图动画化及视频自动配音。所有文件存储在本地 Mac 文件夹中,不上传至云端,支持 14 天免费试用及 $49 年费订阅模式。

  11. arXiv · ML28

    PFP-BNNs 在嵌入式 ARM 上实现最高 4200 倍加速

    PFP-BNNs 通过单次确定性前向传播替代采样,在嵌入式 ARM CPU 上实现最高 4200 倍推理加速。 该方案基于 TVM 编译器库,在 Dirty-MNIST 数据集上,其精度、不确定性估计及 OOD 检测性能均匹配 SVI-BNNs。 结合代码生成实现 BNN 在资源受限系统的高效部署,已被 ACM TACO 接收。

  12. arXiv · ML24

    LeanTTA:面向边缘设备的无反向传播且无状态量化测试时自适应方法

    LeanTTA 提出了一种无反向传播且无状态的量化测试时自适应框架,专为资源受限的边缘设备设计。 该方法通过动态更新归一化统计量实现自适应,结合部分自适应与量化模块融合,ResNet18 模型峰值内存占用仅为 11.2MB,误差降低 15.7%。 LeanTTA 在传感器模态验证中显著优于现有最先进方法,解决了边缘部署中数据有限与环境多变导致的准确性与效率平衡难题。