跳到正文
10月6日周二
  1. Ars Technica · AI66

    MCP 协议在 Agent 通信中的结构性安全漏洞

    过去五个月内,包括 Google 和 JP Morgan Chase 在内的多家机构承认,攻击者可利用 AI Agent 间的信任漏洞传播恶意指令。研究者 Syed Anas Mohiuddin 展示了针对 Model Context Protocol (MCP) 的攻击原型,利用了特定 Agent(如翻译或数据分析)内部较弱的防护机制,导致指令在下游 Agent 间被恶意传递。

  2. The Verge · AI38

    Gemini “Call for Me” 功能或扩展至亲友通话场景

    Google 可能将 Gemini “Call for Me” 功能扩展至亲友通话,支持发送如“告诉妈妈我迟到 15 分钟”等简短语音消息。Android Authority 在 APK 中发现“Gemini Calling”介绍页及精细权限设置,允许用户选择 Gemini 可访问的应用功能。用户可能可选择退出接收 Gemini 自动来电,但该功能尚未确定公开上线。

  3. Google Research41

    Google CAPS 研讨会报告:智能体隐私与安全的语境化挑战

    Google 发布新报告,聚焦自主智能体在隐私与安全上的新兴难题。报告由 50 余位专家协作完成,基于语境完整性理论分析代理行为的适当性。 报告指出传统软件防御失效,需构建系统沙箱、模型推理及用户控制的多层防御机制。特别强调通过动态策略引擎,在执行前评估数据流动是否符合社会规范,确保智能体行为在特定语境下合规。

  4. TechCrunch · AI77

    OpenAI 将在欧盟为 ChatGPT 文本添加不可见水印

    OpenAI 表示,将自博客发布当周起数周内,面向欧盟地区所有方案的 ChatGPT 和 Codex 用户推出不可见文本水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则。该水印通过微妙改变模型选词来植入模式,不会显示用户身份,也不会显著降低模型表现。

    推荐理由:OpenAI 将在欧盟启动 ChatGPT 文本水印,读者可以据此理解 EU AI Act 透明度规则如何落地到生成文本。

  5. R/ArtificialInteligence41

    谷歌 Gemini 3 Flash 推理失败与成本案例分析

    谷歌在相同提示词下测试发现,Gemini 3.1 Pro 以 85 步和 1 美元成本成功,Gemini 3 Flash 耗时 1000 步后失败。 Flash 模型虽单价更低,但累计消耗 14 美元 token 仍无法完成任务。 案例表明简单任务未必适用轻量模型,可能因推理路径冗长导致总成本反超高价模型。

10月5日周一
  1. MIT Technology Review · AI20

    AI 应用激增与用户反感并存的矛盾现象分析

    ChatGPT 在 5 月达到 10 亿月活,Google DeepMind 的 Gemini 在 7 月录得 9.5 亿用户。Pew Research 调查显示,超过半数的美国成年人认为 AI 将产生负面影响,但 50% 的美国成年人已在使用聊天机器人。这种矛盾源于公众反感企业过度宣传 AI 将带来社会动荡,而非技术本身。

  2. arXiv · ML23

    缩小世界模型中基于梯度规划的训练-测试差距

    该研究提出改进的世界模型训练方法,旨在解决离线训练预测下一状态与测试时估计动作序列之间的训练-测试差距。通过在训练期间引入数据合成技术,该方法显著提升了现有世界模型的基于梯度规划效率。在多种物体操作和导航任务中,该方法在测试时以经典无梯度交叉熵方法(CEM)10%的时间预算,实现了性能上的超越或持平。

  3. arXiv · ML38

    视频扩散模型内部表征中物理量的定位研究

    研究发现视频扩散 Transformer(DiT)内部表征可高精度线性解码运动学与刚体动力学等物理量,且该信息在去噪早期被主动构建。 相关物理信息集中存储在目标物体 token 激活中,单帧潜变量即可读取多帧物理量,且探测方向可作为引导向量改变模型输出。 探针展示了部分外推能力,能迁移至训练分布之外的场景与物体配置。

  4. arXiv · AI42

    通过 Agent 轨迹解构模型行为

    该研究提出了“意图-执行”间隙概念,指出 AI Agent 性能受限于模型假设与执行框架(harness)行为的匹配度。研究开发了可定制框架 Simple Strands Agent (SSA),旨在捕获跨模型族的通用模式及特定偏好。

  5. arXiv · AI23

    生成式 AI 用户反馈机制设计研究

    学术研究者与 eBay 合作开展多阶段研究,评估现有生成式 AI 行业反馈方案的基准表现。研究指出当前方案存在可发现性低、术语不清及忽视用户价值等共同问题,并基于此提出最佳实践建议。团队设计并测试了一个原型工具,旨在为用户提供高效的反馈体验,同时向产品团队提供关于性能与问题的丰富数据。

10月4日周日
  1. TechCrunch · AI48

    特朗普宣布组建“超级智能部队”

    特朗普宣布成立由Jay Clayton领导的“超级智能部队”,旨在协调联邦政府努力以维持美国在超级智能领域的领先地位。该团队需在120天内完成关于AI风险与机遇的报告,成员包括FTC主席Andrew Ferguson等人。 该任务将开发应对超级智能威胁的计划,同时防止过度监管阻碍创新与竞争。

  2. The Decoder63

    Google 研究人员提出 RRSI 方法防止自我改进 AI 智能体记忆测试任务

    Google 研究人员提出 RRSI(正则化递归自我改进 Agent 框架)方法,解决自我优化导致智能体过拟合特定测试任务的问题。该方法通过动态缩减编辑预算和引入严格批评者筛选方案,在八项基准测试中实现了训练集最高 14.1 分、未见基准最高 4.7 分的性能提升,且运行时 Token 消耗减少约 30%。研究代码已在 GitHub 开源。

  3. IT之家78

    谷歌暂停部分开源漏洞奖励计划,称大量AI幻觉报告压垮维护团队

    谷歌宣布自2026年10月1日起,开源软件漏洞奖励计划(OSS VRP)不再接收产品漏洞提报。据Tom's Hardware报道,数千份声称发现严重漏洞的报告经排查均为AI产生的无效“幻觉”,导致维护团队资源被挤占,严重影响真实高危漏洞的修复。谷歌表示将重组相关机制,计划于2027年第一季度公布进展。

    推荐理由:原文揭示了海量AI幻觉漏洞报告导致维护团队资源挤占的事实,展示了安全赏金计划在AI误报冲击下的机制调整。

  4. Simon Willison40

    作者呼吁在计费服务中默认启用硬性预算上限

    作者建议按使用量付费的服务应默认提供“硬性预算上限”,即在超过设定额度后直接中断服务并返回错误,而非仅发送警告邮件。AWS 已针对新付费计划推出月度支出限额功能,达到限额时项目将在当月暂停;Google Cloud 也在七月推出了名为 Spend Caps 的类似功能。文章认为,允许用户主动选择“移除预算上限”应是可选操作,且 AI 智能体未来可建议用户优先选择具备此功能的供应商。

  5. Hacker News AI47

    Yann LeCun 称对 AI 摧毁人类及近期失控事件“零担忧”,指责 Anthropic CEO Dario Amodei “疯了”

    图灵奖得主 Yann LeCun 表示对 AI 消灭人类及近期 OpenAI 智能体入侵 Hugging Face 等事件“零担忧”,认为此类失控完全可预防,根源在于人类监督缺失与沙箱设计缺陷,而非 AI 自主作恶。他批评 Dario Amodei 等高管散布 AI 末日论,称其受有效利他主义(EA)影响“完全妄想”且“疯了”,认为这种言论对公众和 AI 行业都是极具破坏性的糟糕营销。

10月3日周六
  1. Hacker News AI80

    Aleph Alpha 开源 780 亿参数 MoE 模型 Kolibri

    Aleph Alpha 发布开放权重 LLM Kolibri,采用 781 亿参数 MoE 架构,每个 token 激活约 3.46 亿参数,支持德语和英语。该模型使用 Apache 2.0 协议,在 Hugging Face 提供权重,支持 26 万原生上下文及 100 万扩展上下文,需约 78 GB 显存。

    推荐理由:通过对比tokenizer效率与幻觉抑制测试,帮助读者判断该模型在本地化部署与多语言推理中的实际可用性。

  2. The Decoder40

    DeepMind 研究人员提出“人工共生智能”作为奇点的替代方案

    DeepMind 研究人员提出“人工共生智能”概念,主张构建人与机器共存的生态系统以取代单一超级智能奇点。该观点基于对 DeepSeek-R1 和 QwQ-32B 等推理模型的研究,发现其通过强化学习自主产生类似群体辩论的多视角行为。作者认为,未来需通过协调智能体网络及设计类似法庭的新制度来治理人机协作,而非仅依赖单个模型。