跳到正文
11月17日周二
  1. arXiv · NLP23

    端侧处方识别器误差溯源:基于 270M 语言模型与 2B 视觉语言模型的冻结重放研究

    端侧处方识别管线的生产召回率仅为 8%,其中手写处方识别率为 0%。引入 2B 参数视觉语言模型与旋转裁剪技术后,总召回率升至 67%,手写识别率提升至 20/45,且未产生不安全输出。 单张照片推理耗时从 12 秒增至 61 秒,内存占用约 1.9 GB。旋转裁剪主要改善读数准确性,而新模型大幅提升召回率。OCR 置信度门控成为主要瓶颈。

  2. arXiv · NLP35

    基于生成式 AI 的全屋智能服务架构:边缘模型、记忆管理与家居应用

    该论文提出以家庭本地服务器为核心的设计导向综述框架,梳理了生成式 AI 在全屋智能服务中的应用架构。 框架识别出本地服务器的九项职责,生成模型负责感知与意图理解,确定性验证及授权租约限制动作风险。 现有基准测试依赖虚拟环境,无法替代真实部署评估;本地部署本身不必然更安全。

  3. arXiv · NLP67

    Nemotron 3.5 Bolt E4B 4GB:面向快速对话智能体的开放高效小语言模型

    NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个基于 Gemma-4-E4B-it 后训练优化的开放高效小语言模型,专为快速本地语音助手、交互角色及嵌入式端侧场景设计。

    推荐理由:展示了该小模型在21项基准中取得最高平均准确率及最低输出token数,并量化了推理加速指标。

  4. IT之家69

    苹果新规遏制 AI 应用全盘接管 Mac,古尔曼称提前 2 年铺路自家 AI 智能体

    苹果在 macOS 27.3 Beta 2 中改革“完全磁盘访问”及“设备控制与数据访问”权限机制,重点防范 AI 智能体类应用过度获取用户数据或操控系统。原有的“设备控制与数据访问”设置被拆分为“系统与应用保护覆盖”和“辅助功能”两项,鼓励用户仅开放特定文件夹权限,并允许设置“每次询问”。

  5. IT之家35

    苹果 tvOS 27.3 Beta 2 新增 Siri AI 引导界面,用户可选新旧版本

    tvOS 27.3 Beta 2 新增 Siri AI 引导设置界面,用户可选择尝试新版助手或继续使用经典版 Siri(Siri Classic)。 该更新补全了 Apple TV 4K 用户体验,第四代机型内置远场麦克风,支持免手动唤醒 Siri 并作为家庭中枢整合 Apple 智能功能。 Siri AI 目前仅提供英语版本,需搭配支持 Apple 智能的 iPhone 或 iPad 完成设置。

  6. IT之家38

    Switch 2 被发现桌面同款 DLSS 4:输入特征缩减 75%、预设 H/I 两大低负载模式

    开发者 Eren Doğan 从任天堂 Switch 2 中提取出英伟达 DLSS 模型,发现其包含 DLSS 4 引入的第一代 Transformer 模型,模型权重与 PC 桌面版相同。 Switch 2 配有 H 和 I 两套专属预设,采用 CNN 模型,输入特征网格规模仅为桌面版的四分之一,以减少计算负担。 这可能是此前被称为“DLSS Lite”或“Tiny DLSS”的轻量方案。

  7. Hacker News AI45

    Show HN: Emergency-AI – 离线知识库与 AI 聊天应用

    Emergency-AI 是一款在本地计算机运行的离线应用,支持在无互联网情况下读取指南并检索知识库。 安装后可使用 LFM3 1.7B 模型进行本地 AI 问答,最低需 8 GB 内存且无需独立显卡,额外库空间约 3 GiB。 应用基于浏览器访问,支持手机同网连接,明确声明其教育性质且不能替代专业紧急服务。

  8. R/ArtificialInteligence52

    开发者分享用自拍生成生日视频的 AI 视频生成技巧

    独立开发者 pvdyck 发布 hehehe.AI,利用自拍在手机端生成带人脸的垂直生日视频。他总结了 AI 视频生成的关键经验:结构化提示词中参考人脸比文字描述发型年龄更有效,卡通风格会导致人脸特征失真,且需在第一帧固定人脸朝向并避免说话时的镜头推进。该应用即将开放他人通过 Claude 或 ChatGPT 编写场景脚本的功能。

  9. Hacker News AI63

    DocBlocks 发布 DocBench 评估本地模型文档处理能力

    DocBlocks 发布 DocBench 基准,评估本地模型在文档审阅、写作、图表和字幕清理等 6 类任务上的表现。测试覆盖 0.8B 至 35B 参数的 24 个模型,Qwen 3.8 27B Q4 以 81 分领先,Gemma 4 12B 紧随其后;云端模型得分均在 87 分以上。基准发现 3B 以下模型在审阅任务中往往输出噪音而非有效建议。

11月16日周一
  1. Hacker News AI28

    AI Video to Text:基于浏览器端 Whisper 模型的免费音视频转文字工具

    AI Video to Text 是一款免费在线工具,利用约 39MB 的 Whisper 模型在浏览器本地将音视频转为带时间戳的文字,支持导出 TXT、SRT 和 VTT 格式。 该工具无需上传文件至服务器,也无账户要求或按分钟收费,支持 MP4、MP3 等格式,并覆盖 20 种语言,英文识别效果最佳。 这种本地化处理方式确保了录音隐私,适用于会议、采访及未发布媒体等对数据安全有较高要求的场景。

  2. Seven Minute Feed42

    Apple 将于 2027 年 WWDC 发布首款智能眼镜

    Apple 计划在下届 6 月 WWDC 公布代号 N50 的首款智能眼镜,预计 2027 年底前出货。 设备不搭载 AR,运行精简版 visionOS,采用源自 Apple Watch 硅片的芯片,并内置 Wi-Fi 以脱离 iPhone 使用。Apple 正在 iPhone 上先行推送更精细的 Siri 第三方应用控制,为眼镜上市并挑战 Meta 的 Ray-Bans 铺路。

  3. Hacker News AI28

    Automatar:内置 NVIDIA GPU 的智能 AI 贝斯吉他

    Automatar 是一款内置 NVIDIA GPU 的智能 AI 贝斯吉他,通过嵌入 AI 模型理解演奏并电磁驱动琴弦振动,实现与人类演奏的和声互动。 该乐器采用 Pale Moon Ebony 琴体与 Mahogany 背板,使用 NVIDIA Jetson Orin NX 本地运行小型 MIDI 模型,音频由 Bela Mini 配合 Supercollider 处理。

  4. arXiv · ML47

    标题:FETTUCCINE:移动端高效脑电转文本解码框架

    摘要:FETTUCCINE 是一种移动端脑电转文本框架,在商用设备上实现 370 倍实时吞吐量,将词错误率降至 4.39%。 该模型利用自动语音识别技术,支持微调以应对神经非平稳性,并通过梯度显著性图定位关键神经特征。 这是首次在移动设备上实现脑电转文本解码,为便携式神经假体通信提供了新方案。

  5. arXiv · ML37

    按文件大小与单任务能耗选择量化代码 LLM

    一项针对 Qwen2.5-Coder 在 MacBook Air M2 上的评估表明,在 1 至 2 GB 文件大小区间,选择 q4_K_M 格式优于大模型低精度选项。 测试显示 3B 模型在 2 GB 档位的正确性与能耗表现均达前沿水平,而 7B-q2_K 在 3 GB 档位能耗增加但无显著正确率提升。 该研究为本地部署代码助手提供了基于 Ollama 文件大小的具体选型指南。

  6. arXiv · AI23

    A$^3$:面向协同边缘计算的自适应音频智能体框架

    A$^3$ 是一种自适应音频智能体框架,将流水线阶段部署在边缘服务器,并在设备保留完整回退智能体,通过链路感知截止时间决定何时放弃服务器。在 Jetson 设备与 RTX A4500 服务器上,A$^3$ 在链路正常时性能与纯服务器智能体持平,在 AGX 全断网时响应所有请求,且在模拟断网中优于百分位对冲策略。

  7. arXiv · ML21

    RL$^{\mathrm{RT}}$:端侧强化学习运行时

    端侧强化学习运行时 RL$^{\mathrm{RT}}$ 解决设备上 Actor 与 Learner 共享 GPU 导致的策略漂移或停顿问题。 该系统通过刷新边界和感知松弛的 GPU 许可,在 Jetson 板上将 16.8 M 参数策略的截止时间错过率控制在 1% 以下,而传统设计高达 85 至 100%。

  8. IT之家36

    华为麒麟 9050 系列芯片智能音视频处理情报公开:低延迟 AI 异构协同计算、率先支持 H.266 解码

    华为麒麟 9050 系列芯片搭载新一代音视频处理器,音频性能提升 30%,支持新一代音频 DSP、H.266 视频硬解码和低延迟 AI 异构协同计算。 通过 DSP+NPU 异构协同实现 AI 静谧通话功能;率先支持 H.266 硬解码,相比 H.265,弱网直播卡顿降低 50-70%,同网速下分辨率提升一档,同分辨率下播放时长提升 2-3 小时。

  9. IT之家31

    三星被曝在美为 SpaceX 生产星链芯片,目标 2030 年投产

    三星电子计划投资 19 亿美元,在得克萨斯州奥斯汀工厂为 SpaceX 星链卫星生产 STM32V8 微控制器,目标 2030 年投产。 STM32V8 采用 18nm FD-SOI 工艺,集成 Arm Cortex-M85 内核,目前用于星链低地球轨道卫星的激光链路系统。 此次扩产将奥斯汀厂区的客户范围延伸至太空与国防领域,并纳入美国“芯片法案”框架。

  10. Hacker News LLM82

    通过修改 LLM 输出层单行权重停止过度思考

    作者通过修改 </think> 行的输出层权重,在免训练条件下让模型根据隐藏状态判断何时停止思考。在 Qwen3.5-4B 上,该方法在保持准确率的同时减少 54% 的 token 用量;在 DeepSeek V4.1 Flash 763B 上,解决数学题的 token 用量降低 40%,且代理任务的盲评得分最高。

    推荐理由:提供免训练的单行权重修改方法,读者可复用在本地模型以缩短思考时间并节省token。

  11. Hacker News AI37

    利用 Claude Code 优化 Dell Precision 3591 笔记本电脑的 Linux AI 开发环境

    Claude Code 协助调优 Dell Precision 3591 笔记本,磁盘占用从 90% 降至 25%,Postgres 测试查询耗时由 605 ms 减至 330 ms。 优化措施包括删除 Rust 调试构建、关闭 Intel VMD 以解决 SSD 冻结,并调整内核参数使 NVIDIA GPU 空闲时睡眠 97%。 系统整体响应速度显著提升,为 AI 辅助开发提供稳定硬件基础。

11月15日周日