利用前沿模型训练本地 Qwen 9B 的可行性
用户通过前沿模型筛选并训练本地 Qwen 9B,在量子力学解题正确率从 2/8 提升至 7/8。 训练过程消耗巨大算力,Ravens Progressive Matrices 成绩从 V0 版本的 1/60 提升至 V5 版本的 28/60。 该实践帮助用户深入理解 Adapter 等模型微调技术,超越单纯使用 AI 助手。
用户通过前沿模型筛选并训练本地 Qwen 9B,在量子力学解题正确率从 2/8 提升至 7/8。 训练过程消耗巨大算力,Ravens Progressive Matrices 成绩从 V0 版本的 1/60 提升至 V5 版本的 28/60。 该实践帮助用户深入理解 Adapter 等模型微调技术,超越单纯使用 AI 助手。
苹果 iOS 键盘系统内部存在一份未公开的约 10 万条多语言词汇限制名单,即“灰名单”,导致系统不通过自动补全或滑行输入推荐这些敏感词汇,但不禁止手动输入。研究人员使用 OpenAI Codex 和 Claude Code 分析系统文件确认了名单规模,内容涵盖粗俗、暴力及政治敏感表达,苹果回应称设计目标是避免推荐冒犯性内容,未回应名单具体构成及隐藏原因。
Goethe 将 Linux 机器转换为兼容 OpenAI、Anthropic 和 LiteLLM 客户端的自托管 API,实现模型的快速部署与共享。安装后只需三步即可加载模型、配置 API 并管理访问密钥,支持多模型并行运行及多 GPU 拆分。该工具默认私有,支持 NVIDIA 580 及以上驱动的 GPU,代码采用 Apache License 2.0 开源。
阶跃终端旗下 STEPX Neo 智能体手机在进博会高通展台首次亮相,结合骁龙终端侧智能优势实现软硬模一体化协同。 该终端支持通过个人智能体阶跃 Amoo 联动支付宝神券、剪映及携程等生态,覆盖消费、创作与出行场景,并展示了原生开发工具 Step Studio。 官方表示未来将持续携手伙伴,加速探索下一代个性化智能体终端体验。
Infinity 在 Mac 上推出 AI 应用,实现 AI 对话的 Git 风格分支。v0.1.5 支持 4 个模型并行响应,接入 10+ 提供商,本地运行无账号、广告或分析。 支持 macOS 14+,兼容 Apple 芯片与 Intel,涵盖 Chat、Code 和 Assistant 三种模式。
NVIDIA 开源 AI Aerial 和 Sionna 软件全球开发者采用量增长 10 倍,下载量超 100 万次,8000 多家机构正在使用。 在多项实验中,语义通信将机器人任务完成时间缩短 52.6%,神经网络接收机上行吞吐量提升最高 60%,模拟运行时间从 3 小时降至 10-20 分钟。
豆包工作宣布个人订阅功能取消 5 小时额度限制,支持短时间内集中使用。 付费用户后续可不定期领取额度重置卡,周额度与其他使用规则继续以相应套餐标准为准。
初创公司 Underdog 发布了名为 Woof 的语音生成模型,其大小仅为 32MB,可在浏览器中离线运行。 Woof 模型拥有 3100 万参数,已开放下载。此前该公司还推出了 167MB 的语音转文字模型 Bark 和一个 270 亿参数的笔记本可用模型。
summary_zh: 开源 CLI 工具 Lowvram 通过拦截 CUDA 内存调用,让低显存 GPU 能运行大型 AI 模型。在 RTX 3060 上运行 YuE2 时,其生成速度达到 43.1 tokens/s,是标准加速方式的 23 倍。
Meta 向所有美国用户推出 Muse Voice,用户可与 Muse agent 实时语音对话,同时 agent 的 avatar 会随对话呈现细微表情和手势。
谷歌为 Googlebook 笔记本推送 11 月更新,包含 30 项修复和改进,并更新 2026 年 11 月安全补丁。 该更新有效降低端侧 AI 内存占用,释放 3GB-6GB 内存,提升高负载任务下的性能并减少标签页崩溃。 此次更新还修复了二合一设备输入无响应、Zoom 特效崩溃、DRM 视频黑屏及蓝牙音频延迟等问题。
NXP MCXN947 微控制器实现了支持实时语音交互的关键词识别(KWS)系统。 该系统结合 MFCC 特征提取与 CNN 分类器,经量化感知训练(QAT)优化后,模型大小为 30.58 KB,准确率达 97.06%,NPU 推理比纯 CPU 快 59 倍。 此方案证实了嵌入式平台运行高效、低功耗语音接口的可行性。
LeanStream 提出推测-精化流式框架,在移动与嵌入式端侧实现高效 LLM 推理。 相比既有端侧系统,内存占用降低 4.8×–7.5×,token 生成吞吐提升 1.6×–2.1×;代码已开源。 论文被 ACM MobiCom 2026 接收。
研究团队提出钾离子通道调节 LIF(KvLIF)神经元模型,通过在静态图像和神经形态数据集上的广泛评估,证实其在分类准确性和鲁棒性方面优于现有 LIF 模型。 KvLIF 引入辅助电导状态,结合膜电位和脉冲历史自适应调节神经元兴奋性和重置动态,从而扩展响应范围并抑制噪声引起的脉冲。 该设计在保持生物合理性的同时兼顾计算效率,适用于低功耗神经形态部署场景。
印度计划在未来 24 个月内研发自主 GPU 芯片,并推动基于 RISC-V 架构的 SHAKTI 和 VEGA 处理器商业化。 VEGA ET301 为 32 位芯片,频率最高 100MHz;IIT Madras 于 2019 年发布 SHAKTI 工具包。 印度半导体市场规模超 500 亿美元,预计 2030 年接近 1000 亿美元。
淘宝 MNN 团队开源 MNN-Pocket-0.3B 模型,在 iPhone 18 Pro 离线实现平均 350 token/s 解码速度。该模型部署文件体积 173MB,峰值内存低于 300MB,综合评测平均分 50.00,超过 Qwen3-0.6B 等对比模型。
中国移动在2026移动网络大会上宣布,2027年采购总金额预计超5000亿元,其中算力投资超1000亿元。在已建成多个万卡计算集群基础上,公司计划再建2个吉瓦级计算园区,总数达7个,并预计未来两年智算能力将连续翻番。
英特尔中国区董事长王稚聪进博会期间介绍绿色算力舱方案,该方案依托西部光、风能实现绿电直供,将算力就地转化为词元。 方案预计8至12周即可完成设计制造投用,采用800V高压直流供电提升算力密度,支持多舱互联扩展。 该方案契合“十五五”规划中的“词元经济”和“算电协同”方向。
工信部发布通知加强智能体终端设备进网管理,规范终端与智能体适配。通知要求开展智能体和终端适配,开发者需加强适配验证并在产品设置页公示列表;预置智能体的终端须在进网检测中开展适配验证,重大变化需向工信部报备;终端企业开展现网升级需提交方案和报告,经专家评估后方可提供服务;应用分发平台需推动开发者声明同意调用,并公示适配验证列表。
开发者实测显示,过去一个月 AI 助手在 45 部 Android 手机上执行 3324 次动作的成功率为 91%。主要失败原因是系统断连、应用未获焦点及锁屏拦截。文章指出 Android 缺乏智能体输入标识与电池豁免标准,建议通过系统级权限和独立事件标记机制优化 AI 在端侧的交互安全。
Tokenome 是一款本地优先、跨工具的工具,为 AI 辅助的代码工作提供代码来源追踪。官方称实测可减少 38% 上下文 token,且答案质量无明显变化。其功能允许用户定位某行代码,追溯并搜索产出该行代码的 AI 对话。软件在本地运行,支持 macOS 和 Linux,个人使用永久免费,并支持通过 Claude Code 等插件进行 MCP 连接。
离线生存助手(IA da Sobrevivência)是一个支持Windows、Linux和macOS的离线生存辅助工具,完全无需互联网即可运行。它通过llama.cpp或Ollama在本地运行语言模型(默认推荐Qwen2.5 3B),结合Kiwix离线库和自建指南,为用户提供带有引用来源的自然语言问答服务。该工具可存储在U盘中,通过浏览器访问本地Web界面,并支持多语言切换及局域网共享。
Northmeadow 发布 0.1.0-alpha.1 公测版,作为面向本地 AI Agent 和个人的加密共享内存。 支持 Linux、macOS 及 Windows (WSL2),通过单行命令安装,限制最多 50 个集群和 50 个 Agent。 软件测试期截至 2027 年 1 月 31 日,遵循 EU Cyber Resilience Act 合规声明。
Aina 发布了一款智能戒指,旨在作为 AI 代理的远程控制器。该设备通过小屏幕和摇杆按钮,让用户无需掏出手机即可快速接受或拒绝 AI 代理的操作请求。Aina 戒指预售价 399 美元,将于 2027 年 1 月开始发货。
Apple 展示了在 iPhone 端侧部署 LLM 的高效方案。 该方案通过特定的技术架构实现了“surgical efficiency”,使大型模型适配移动端算力限制。 此技术路径为 AI 设备端侧智能推理提供了高能效的参考范例。
OPPO 在中国移动全球合作伙伴大会上发布全球首个端网智能体意图通信白皮书,旨在让网络理解用户真正想获得的体验。 该白皮书提出意图通信技术,将用户需求转化为标准化结构化意图,由网络完成解析、任务规划与服务调用。 这项技术是 OPPO 面向 6G 时代布局的重要方向,推动通信从“传数据”走向“传意图”。
Gradium 于两周前推出并开源了小型端侧文本转语音模型 Phonon,该模型无需服务器与网络即可运行。目前 Phonon 提供约 65 MB 和 75 MB 两种尺寸,支持英、法、德、西、葡五种语言,并内置 100 多种预设音色。
推荐理由:展示了高性能TTS模型在端侧落地时的架构平衡策略,以及通过多语言支持与流式响应技术实现的质量跃升。
比亚迪腾势 Z9S 今日完成首次 OTA 升级,上线 AI 超级智能体迪迪虾,并新增王力宏场景播报。 此次更新同步增加了磁吸玩偶主题联动、无麦 K 歌及 AI 日报功能,支持多步骤复杂指令执行与手机生态打通。
Macronix 正在逐步淘汰用于 Switch 卡带的 ROM 芯片,转向为数据中心生产 NOR 闪存。 受 AI 存储需求激增影响,Macronix 的 ROM 营收同比下跌 39%,而 NOR 闪存营收增长 158%,NAND 闪存增长 768%。 公司产能上限为每月 25,000 片晶圆,新增产能需一年或更久才能释放。
华为在2026鸿蒙办公产业峰会上正式发布首款鸿蒙台式机擎云HM650系列。新机搭载麒麟X90处理器与鸿蒙HarmonyOS系统,通过软硬芯云协同实现整机性能提升15%。该机型拿到业界首个国产化率100%认证,并支持系统级智能体小艺,覆盖政企办公、办公Agent、AI编程等场景。
ScreenWeaver 调用 Gemini Flash 在 0 到 1000 坐标范围内检测漫画、网络漫画及故事板分镜,单页成本约 $0.004。 该工具通过代码清洗检测框,对超过 20 页的请求先询问确认,并将面板存储于页面以确保重试不重复付费。
字节跳动的 Agent 产品豆包工作鸿蒙电脑版本已完成开发,并上架 AppGallery 应用市场。 该产品能与飞书深度打通,支持生成编辑图文、视频、网页及应用,用于处理办公任务。
Flipper Devices 宣布多功能无线设备 Flipper One 开启预订,用户支付 20 美元可获 379 美元购买券,用于未来 Kickstarter 众筹优先购买。
Jev模型上线数周用户破百万,估值24天内升至75亿美元,引发决策模型品类快速兴起。 该模型端到端延迟低至70至500毫秒,比大模型快20到200倍。OmAI联汇提出端侧原生流式多模态路径,VLX矩阵已在无人机及机器人场景商用落地。
研究者提出持续先验补偿框架(CPC)及增强版 CPC++,以解决人类动作预测中短期预测受长期预测干扰的问题。 该框架将预测任务划分为多个子任务并分阶段训练,通过引入可学习的先验补偿因子(PCF)及细粒度先验补偿因子(FGPCF)来显式衡量和缓解先验知识遗忘。 在三个基准数据集及 PGBIG、siMLPe 等主流模型上的实验证实了该方法的有效性与灵活性,相关成果已被 IEEE TPAMI 接收。
该 AMD LLM 训练系统利用 TDM、转置加载及 SDMA/RDMA 指令实现数据移动与计算重叠,消除等待瓶颈。 kernel 级测试中 TDM 平均加速 1.88 倍,转置加载加速 1.19 倍;通信重叠下 SDMA 和 RDMA 分别实现 1.16 倍和 1.33 倍加速。 这是首个利用所有 GPU 数据流水特性的 AMD LLM 训练系统,相关实现已集成到开源框架和库中。
研究者给出了一个闭式条件,用于判断在何种情况下基于置信度信号的 LLM 分层级联比将查询全部路由至中心节点更具价值。 该条件通过引入架构成本比 $\kappa$ 来区分本地计算成本,并划定了存在可行阈值区间(信号下限与完美信号上限)的条件。 当本地计算为沉没成本时,级联的可行性变得无条件,信号质量决定了最终收益;这一发现为现有的分层系统提供了设计依据。
研究团队通过微调 Qwen 3.5 27B 实现被动抑郁监测,在 422 名用户上取得 MAE 3.98 和临床阈值 AUC 0.88。 模型结合 3,111 个真值标签与伪标签扩展至 5,524 名用户,Pearson 相关系数达 0.67,覆盖了从 PHQ-9 分数 3 到 24 的全谱系严重程度。 该结果支持无需自报问卷的被动抑郁监测。
turing-unlock 解锁 RTX 2080 Ti 驱动层 FP16 矩阵乘法限制,cuBLAS 吞吐量升至 91.4 TFLOPS。 实测 75.7M 参数模型稳态吞吐量提升 11.8%(6,480 至 7,246 tok/s),耗时减少 9.0%。 解锁效果随模型矩阵尺寸单调增加,不改变最终模型质量指标。
summary_zh: Rack Community 是一款自托管单节点 AI 实验室工具,核心特性是内置 admission control 的 job runner,确保机器不会因内存过载而崩溃。