跳到正文
10月22日周四
  1. LessWrong · All Posts78

    Against Moloch #48:神经网络可解释性与 AI 安全评估进展

    Against Moloch 第 48 期讨论 AI 模型可信任度及安全评估,重点报道 Nick Cammarata 认为现代神经网络的神经元更易理解以及 Anthropic 部署嵌入独立评估员。文中引用 OpenAI 的 roon 称其为科学史上的关键时刻,而 Google DeepMind 的 Neel Nanda 则认为尚不明确对可解释性大局的影响。

    推荐理由:文章汇总了关于神经网络可解释性进展与 Anthropic 嵌入独立评估员的不同观点,读者可借此判断 AI 安全现状的争议焦点。

  2. Google Research60

    Google Research 在 JAMA Network Open 发表盲扫超声AI评估孕周的前瞻性多中心研究

    Google Research 在 JAMA Network Open 发表论文,评估了基于盲扫超声的AI模型在评估孕周时跨临床环境和硬件的泛化能力。研究发现,该AI系统在芝加哥和纳库鲁的两个中心实现了与专家超声医师非劣效的准确率,平均绝对误差为4.18天,验证了其在资源有限地区扩大产前筛查覆盖的潜力。

    推荐理由:该前瞻性多中心研究验证了AI系统结合盲扫超声在真实临床环境中的泛化能力,为低资源地区扩大产前筛查提供了关键证据。

  3. R/ArtificialInteligence83

    SpaceX Q3营收同比增161%,AI业务“Super Intelligence”营收近三倍达75.6亿美元

    SpaceX 2026年Q3营收同比激增161%至146亿美元,净利润44亿美元。AI业务部门更名为“Super Intelligence”,营收从第二季度的25.6亿美元增至75.6亿美元,几乎达到三倍。Starlink用户增加160万,连接业务营收增长69%。

    同一新闻,精选展示《SpaceX 第三季度 AI 业务收入达 76 亿美元,首次超过星链》

10月21日周三
  1. R/ArtificialInteligence69

    中国开始处罚向AI答案植入虚假内容的企业,相同技巧也适用于ChatGPT

    中国监管机构已对通过植入虚假内容影响AI聊天机器人答案的企业实施罚款,北京、广州和深圳已开出三张罚单,金额在5万至12万元之间。央视采访显示,一种工具在发布两篇虚构文章后不久,AI模型便开始赞扬虚构手环的'量子纠缠传感'功能;对超过1000条AI引用的链接检查显示,超过30%的内容带有明显的植入痕迹。

  2. Hacker News AI82

    Wiz 团队揭示 AI 发现并利用 PHP 核心 RCE 漏洞

    Wiz 研究团队利用 Wiz Atlas、Gemini 4 Argon 和 GPT-5.6 Sol 发现并验证了 PHP 核心引擎中多个严重的内存安全漏洞(CVE-2026-109618 和 CVE-2026-109619),实现了未经认证的远程代码执行(RCE),该漏洞影响 PHP 5.4 至今的所有版本。

    同一新闻,精选展示《Wired报道PHP关键漏洞引发互联网紧急修复响应》

  3. APPSO55

    利用 iPhone Duo 和 Mac Studio 构建本地智能体控制中心

    APPSO 使用 iPhone Duo 连接 Mac Studio 搭建本地智能体系统,将模型推理与任务执行置于端侧。作者针对不同折叠形态设计了专属 App,实现仪表盘监控、可视化进度查看和复杂任务控制台功能。系统通过 LM Studio 运行 DeepSeek V4 Flash 等开源模型,配合 DeepSeek Harness 处理任务,展示了移动设备指挥本地算力中心的工作流。

  4. The Decoder56

    美国封禁Deepseek引发中方反制,揭示中国对海外AI模型的更严限制

    美国国土安全部下令联邦机构移除Deepseek及其衍生软件,北京指责此举为歧视,并承诺采取反制措施。文章指出中国国内对ChatGPT、Claude等海外AI有严格限制,且要求逐步替换为国产软硬件,这种双重标准使中方的抗议显得缺乏说服力,但意在释放政治信号并为未来报复奠定基础。

  5. NVIDIA Blog67

    Google Cloud和NVIDIA宣布Vera Rubin基础设施通用可用

    Google Cloud和NVIDIA宣布NVIDIA Vera Rubin基础设施的实例将于下月通用可用,并计划扩展至欧洲。A5X实例整合了Vera Rubin NVL72、ConnectX-9 SuperNICs和第四代液冷技术,以支持大规模Agentic推理和强化学习工作负载。

    推荐理由:官方确认了A5X实例在Google Cloud的通用可用性及欧洲扩展计划,并展示了其支撑大规模强化学习的集成平台架构。

  6. Seven Minute Feed58

    Google 扩大软件工程师 AI 面试试点

    Google 正在扩大面向软件工程师的面试改革试点,允许候选人在编码面试中使用 Gemini,并新增测试 AI 使用能力和提示词技能的代码理解轮次;内部文件显示面试官也可使用 Gemini 撰写反馈,多个工程岗位已开始要求基础的 AI 使用能力。

  7. Seven Minute Feed72

    Cognition 称 AI 编码已达到“智力饱和”

    Cognition 总裁表示,当多数模型都能很好处理软件任务后,竞争重点会转向成本和速度。他回应一份报告称,模型智能每提升 10 点,带来的开发流量增长已降至约 20%,低于 2025 年底的约 69%。若该趋势持续,OpenAI、Anthropic、Google 和 Meta 在编码模型上的核心卖点会减弱。

  8. Seven Minute Feed43

    Gemini Personal Intelligence 登陆 Android Auto

    Gemini 的 Personal Intelligence 功能即将在 Android Auto 中向配备 Google 内建服务的汽车推送。 该功能可调用 Gmail、日历、地图、照片及 YouTube 数据响应提示,需用户主动开启且手机已连接。 Google 正利用其持有的个人数据优势,将汽车作为对抗竞争助手的最新应用场景。

  9. Seven Minute Feed77

    Google 开源 TorchTPU,支持 PyTorch 应用通过简单配置迁移至 TPU

    Google 正式开源 TorchTPU 工具,允许原生 PyTorch 应用无需重构、只需简单配置变更即可运行在 Google TPU 上。该发布紧随 AWS 针对 Trainium 芯片发布的 TorchNeuron,随着两家超大规模云厂商均提供原生的 PyTorch 跨架构方案,Nvidia 在 AI 算力生态中的软件绑定优势正在减弱。

    同一新闻,精选展示《谷歌与 Meta 联合开源 TorchTPU,实现 PyTorch 原生 TPU 支持》

  10. 机器之心63

    17岁AI研究者陈广宇离开月之暗面,加入Jeff Dean创立的Discovery Loop

    17岁AI研究者陈广宇宣布离开月之暗面(Kimi),加入由Jeff Dean等人创立的Discovery Loop。陈广宇16岁时作为高三学生加入Kimi,参与了KDA计算内核优化、Attention Residuals研究及大模型训练优化器开发,并与张宇、苏剑林共同以第一作者身份发表了改进Transformer残差连接机制的论文《Attention Residuals》。

  11. Hacker News AI43

    Google DeepMind 研究显示四个 Gemini 4 Argon 智能体 27 小时通关 Minecraft

    Google DeepMind 发布的论文显示,四个 Gemini 4 Argon 智能体在 27 小时内击败了 Minecraft,过程中编写了 2783 个自研程序。 四个智能体在 Easy 难度共享世界中通过游戏内聊天协调,虽死亡 605 次,最终通过堆叠泥土找到并击杀末影龙,耗时约 520 美元 token 成本。 该实验侧重展示智能体的编码能力与团队协作,而非传统游戏玩法。

  12. 36氪82

    奥特曼提出AI三大终局:巨头合并或熔掉竞争对手GPU

    奥特曼在OpenAI全员大会上阐述了AI领域的三大终局设想,包括建立统一安全标准、多巨头合并研发以及一家公司通过熔断算力垄断AI。The Information援引知情人士透露,奥特曼倾向建立类似国际原子能机构的组织对前沿AI执行统一标准。目前Anthropic预计11月中旬上市,目标估值2万亿美元;OpenAI正急于完成约300亿美元融资以争夺资本窗口。

    推荐理由:文章复盘了奥特曼在全员大会上提出的AI监管路径,以及OpenAI与Anthropic在资本竞争中的现实角力。

  13. arXiv · AI32

    语言模型任务组合下的脆弱性:隐性推理预算机制

    研究揭示语言模型在组合任务中错误率显著上升,源于模型对每个任务分配的 token 隐性减少,这一“隐性推理预算”效应无法仅由独立错误累积解释。 该现象在开源模型与 Claude Opus 5 中均存在;孤立时非脆弱任务会浪费算力,而任务需要更长解题轨迹时,组合下错误更多。 按任务脆弱性分组可调控该预算,在保持准确率的同时将 token 使用量降低 43%,为高效多任务提示设计提供依据。

  14. arXiv · AI50

    EGI-BENCH 统一企业级 LLM 智能体基准套件

    团队发布 EGI-BENCH,统一整合八个企业级 LLM 智能体基准为单 CLI 套件,并定义六维 EGI 评分框架。 在 quick 模式下评测 GPT、Claude 和 Gemini 等 14 个模型,EGI 得分从 GPT-4o mini 的 39.6 到 gpt-5.5 的 65.6,无单一模型全面领先。 该套件解决跨基准比较困难和评分标准不一问题,子指标路由机制替代简单基准级平均分。

  15. IT之家52

    消息称 AWS 数据中心供电瓶颈致 AI 算力机架无法按时启用

    据外媒 Business Inside 报道,亚马逊云科技(AWS)部分数据中心面临供电能力瓶颈,导致订购的机架级 AI 算力系统无法按时启用。AWS 8 月预计每月将收到价值约 30 亿美元的机架,但部分设备因供电不足被暂存于临时仓库。为加速电力就绪并保障算力资源供应,AWS 调整惯例,在供应链早期阶段即取得机架所有权。

  16. IT之家86

    SpaceX 第三季度 AI 业务收入达 76 亿美元,首次超过星链

    SpaceX 第三季度 AI 业务收入达 76 亿美元,超过星链的 52 亿美元;AI 资本开支 164 亿美元,公司预计下季度资本开支将增至 350 亿至 400 亿美元。马斯克表示 AI 基础设施建设主要瓶颈是供电、散热和基础设施,算力租赁客户包括 Anthropic、谷歌和 Reflection AI。

    推荐理由:财报显示 AI 业务收入超过星链并给出下季度资本开支预期,读者可以据此判断算力租赁在该公司的扩张地位。