跳到正文
10月14日周三
  1. arXiv · ML22

    小型语言模型上下文感知精度调度研究

    研究提出一种针对端侧小型语言模型的上下文感知精度调度方法,通过结合校准的时序模型和张量敏感度优化精度配置。 在笔记本 GPU 上测试显示,延迟预算下系统会降低权重精度以利用缓存读取时间,工具使用基准测试验证了该调度对完整响应时间和正确性的影响。

  2. arXiv · NLP31

    SparPR:面向消费级硬件资源受限 LLM 推理的运行时 KV 缓存恢复机制

    SparPR 是一种无需修改模型权重或离线训练的运行时 KV 缓存恢复机制,专为解决消费级 GPU 内存带宽瓶颈设计。该机制结合查询感知的 Key 块选择、动态预算控制和按需局部重算,在 RTX 3070 Ti 等消费级硬件上将端到端延迟降低 31%-63%,吞吐量提升 1.4-2.7 倍,使 8k token 任务在 44 分钟内完成。

  3. arXiv · AI45

    更少比特,更多尝试:在内存约束下恢复大模型能力

    通过并行生成多次候选输出并使用公开或模型生成的测试进行筛选,小模型或压缩模型可恢复部分因尺寸缩小而损失的能力。 在四个代码生成基准测试中,使用7B Qwen模型进行8次并行尝试,在MBPP+上基本匹配32B模型,并在另外三个基准上超越后者。 该方法在Nvidia GPU上约节省4倍模型内存,运行速度最快提升6倍,且能耗更低。

  4. arXiv · AI28

    将 AI 推理暴露为 5G 用户面电信网络 API

    该研究提出按需推理(Inference on Demand, IoD)抽象,通过 CAMARA 类 API 在 5G 用户面传输切分感知的张量上下文。 基于可编程用户面功能(UPF)测试床评估,IoD 利用可切分视觉 AI 工作负载,证明自适应切分选择可作为面向网络的服务运行。 使推理切分超越简单卸载,为网络原生 AI 服务开启路径,协调计算、上下文与连接。

  5. arXiv · AI34

    MHWA:多时间尺度分层世界-动作模型

    提出多时间尺度分层世界-动作模型MHWA,通过跨步高层上下文通道和动态路由降低自回归预测漂移。 该模型拥有77M参数,在14款Atari子集上取得0.884 HNS,较JOWA-70M基线显著提升。 使用10%离线数据,比JOWA-150M减少70.88%训练FLOPs,实现参数与效率的平衡。

  6. arXiv · AI33

    SLM 在云端编写智能体程序中作为本地解释器的作用研究

    该研究提出了一种混合架构,允许云端模型编写程序,并通过函数调用将有限的运行时数据解释任务委派给本地小模型(SLM)。 在 AppWorld 基准测试中,该方法使纯代码智能体的成功率最高提升 14.9pp,缩小了与云端 ReAct 循环的性能差距。 此方案在保持用户数据本地化的同时,显著恢复了小模型在动态数据解读上的能力缺失。

  7. IT之家83

    苹果 iPhone 15 Pro 及后续机型国行备案:接入 Apple 智能与通义千问

    苹果 iPhone 15 Pro/Pro Max、iPhone Air 及 iPhone Duo 等机型在 9 月 29 日完成国行备案换证,新增 Apple 智能、通义万相及通义千问的大模型备案编号。阿里确认千问将作为 AI 能力集成至 Apple 智能,为 iOS 及 macOS 等系统中国用户提供无需切换应用的文本理解与内容生成体验,这意味着国行版 iPhone 的 AI 功能有望加速上线。

  8. IT之家73

    苹果 iPhone Duo 国行备案新增大模型编号,将接入通义千问与通义万相

    苹果 iPhone Duo 折叠屏手机国行版在换证时新增了“Apple 智能”、“通义万相”及“通义千问”的大模型备案编号。阿里巴巴称千问将作为 AI 能力集成至 Apple 智能,为中国用户直接提供文本与图像理解、内容生成等能力;该机型已于 10 月 16 日开启预购,15999 元起。

  9. IT之家51

    特斯拉Cybercab将支持乘客随时查看侧、后摄像头画面

    特斯拉无人驾驶出租车Cybercab将新增功能,允许乘客在行程中随时查看车辆侧方与后方的摄像头画面。Cybercab 没有任何后视镜,乘客目前只能在抵达目的地看到下车前画面;该功能旨在提升乘坐安全感,尤其帮助初次乘坐的用户。目前奥斯汀已部署超过300台Cybercab,达拉斯将是下一个开放该服务的城市。美国NHTSA已就Cybercab合规性提出21项问题。

  10. IT之家63

    谷歌 Play 商店更新:支持 AI 生成应用的私密部署与运行

    谷歌宣布在 Play 商店引入新功能,允许用户通过 AI 开发的应用在安卓设备上私密运行,无需公开发布。这项功能支持使用谷歌账号部署个人应用,初期面向美国 18 岁及以上用户开放。应用默认对创建者保持私密,未来将支持分享给信任的好友圈子,或在完成审核后转为公开发布。同期更新还包括 AI 游戏推荐引擎 Game Finder 和内置助手 Ask Play 的升级。

  11. 智东西88

    面壁智能发布MiniCPM-V4.7系列模型:35B端侧版本仅3GB内存即可运行

    面壁智能发布新一代端侧多模态大模型系列MiniCPM-V4.7,包含35B-A3B与1B两个版本。35B-A3B是MiniCPM-V系列首款MoE模型,总参数350亿、每次推理仅激活30亿,仅约3GB内存即可在iPhone 17 Pro Max上实现超13 tokens/s的解码速度,在iPad Pro上解码速度超15 tokens/s。

    同一新闻,精选展示《面壁智能开源 MiniCPM-V 4.7:350 亿参数 MoE 端侧多模态新上限》

  12. 智东西58

    阶跃终端发布 STEPX Neo 智能体原生手机

    阶跃终端发布 STEPX Neo 首款大模型原生智能体手机,主打人机共生,硬件全栈定价 3999 元。产品采用模软硬三位一体底座,通过独立背屏和六麦克风增强感知,配备端侧模型与云端模型协同处理任务。生态方面,阶跃开放 Step Studio 供创客开发,并接入支付宝、剪映等近百家企业实现服务打通,支持用户通过置换计划长期迭代终端能力。

10月13日周二
  1. The Verge · AI58

    Apple 发布首款智能显示屏 HomeView

    Apple 正式发布其首款智能显示屏 HomeView,售价299美元,将于11月13日在包括美国、英国在内的8个国家发售。该设备将一块7英寸方形屏幕与扬声器底座结合,内置 Siri AI,支持自然语言语音交互,并作为 Apple Home 中枢、Matter 控制器和 Thread 边界路由器协同管理其他智能家居设备。

  2. IT之家34

    苹果宣布 Siri AI 将支持第二代及第三代 Apple TV 4K

    苹果宣布 Siri AI 将以测试版形式登陆第二代及更新款 Apple TV 4K。正式推出时支持美国、澳大利亚、加拿大、印度、新西兰、新加坡、南非和英国的英语用户。 老款机型 Apple TV 4K 第二代配备 A12 芯片,第三代配备 A15 仿生芯片,均可通过更新获得 Siri AI 功能支持。

  3. Hacker News AI63

    Forcefield发布:支持本地与远程模型的轻量级AI Agent运行框架

    Forcefield发布,这是一款本地优先的命令行AI Agent运行框架,作为单二进制文件分发,无需用户账号、云服务或遥测。它支持通过Ollama、LM Studio连接本地模型,也兼容远程模型提供商,内置工具执行、技能管理、会话恢复及权限控制功能,适合在离线或隐私敏感环境中部署智能体工作流。

  4. APPSO80

    阶跃终端发布STEPX Neo:首款大模型原生智能体手机

    阶跃终端正式发布STEPX Neo,这是首款主打“大模型原生”的智能体手机,内置个人智能体Amoo。其采用软硬模三位一体架构,支持通过自然语言构建并运行自定义Agent。真机体验显示,设备能执行多条件任务,如根据天气动态调整出行方式并控制预算。全栈定价为3999元,包含硬件、模型及12个月Token额度,并支持通过Step Studio开发专属工具上架。

    推荐理由:原文拆解了软硬模三位一体的实现逻辑,展示了从即时任务到自定义Skill的完整交互链路,提供了评估智能体手机实用边界的参考。

  5. Hacker News AI76

    Elissa AI:跨平台桌面智能体助手发布

    开发者发布跨平台桌面 AI 助手 Elissa,通过语音或快捷键唤醒后可读取文件、操作邮件、执行代码并调用 MCP 服务。该工具兼容 Windows、macOS 和 Linux,支持接入 OpenAI、Claude、Gemini 等模型或本地运行。核心操作需通过用户点击卡片明确批准才能执行,内置防误删机制并支持离线隐私模式,无需注册账号或上传数据至外部服务器。

    推荐理由:该桌面助手将语音交互、文件与代码编辑、邮件发送等日常操作整合到统一审批流程中,展示了端侧智能体处理多源任务的新思路。

  6. HackerNoon · AI33

    机器人计算架构解析:边缘AI、云端协同与能效平衡

    机器人智能未必集中于头部,计算任务在机载边缘与远程云端间分配,以平衡反应速度与算力需求。机载处理降低延迟,但受限于空间、电池及散热;强大远程算力有时能更快解决复杂问题。Dreamscale Labs 认为未来机器人将更依赖云端,Microsoft 实验显示将 AI 移至远程可将 Stretch-3 机器人电池续航提升 100% 以上。

  7. NVIDIA Blog87

    NVIDIA RTX Spark 生态发布软件与 AI 模型更新

    NVIDIA 及其生态伙伴为即将上市的 RTX Spark 笔记本推出软件功能与性能优化,支持本地 AI 智能体。包括更新 GitHub Copilot、Hermes 等智能体应用,发布 74B 参数的 Nemotron 3.5 Bolt 模型,推出跨设备 AI 路由器 PAIR,并带来 Adobe 创意应用优化、Blender DLSS 支持及开发者工具更新。

    推荐理由:原文梳理了围绕本地 AI 智能体新增的安全沙盒、模型路由与开发工具生态,读者可据此判断 RTX Spark 的本地 AI 工作流边界。

  8. IT之家52

    阶跃终端 STEPX Neo 先行版智能体手机发布

    阶跃终端首款大模型原生智能体手机 STEPX Neo 先行版正式发布,搭载骁龙 8 系芯片,软硬模全栈价 3999 元起,10 月 16 日首销。新机运行 Step AOS 1.0 操作系统,支持智能体长期记忆与任务调度,并接入 Step 5 Preview 模型以增强办公场景下的推理与 Agent 能力。