为何你应该对 AI 保持恐慌
长期悲观论者预测屡被证伪,而激进派关于 AI 能力呈指数级增长的判断被验证,人类正加速迈向不可控阶段。 METR 研究显示 Anthropic 模型改进速度翻倍,约 80% 加速源于 AI 自我优化;AI 主导内部研究任务比例从 3 月的 1% 升至 8 月的 26%,实际进度领先《AI 2027》预测场景 5 个月。
长期悲观论者预测屡被证伪,而激进派关于 AI 能力呈指数级增长的判断被验证,人类正加速迈向不可控阶段。 METR 研究显示 Anthropic 模型改进速度翻倍,约 80% 加速源于 AI 自我优化;AI 主导内部研究任务比例从 3 月的 1% 升至 8 月的 26%,实际进度领先《AI 2027》预测场景 5 个月。
Google DeepMind 用四个月完成了对 Signal 关键部分的数学验证。该项目暗示人工智能可以让形式化验证变得更加实用。
summary_zh: 仓库发布研究论文《Beyond Algorithmic Deflection》的实证评估转录、零样本提示日志及 UI 拦截记录,涵盖 Anthropic Claude、Google Gemini、OpenAI GPT 和 xAI Grok 的四款 LLM 危机干预测试。
美国国家飓风中心(NHC)自 2025 年 6 月起在业务中引入 DeepMind AI 模型,其预测准确度平均提前一天,曾在飓风伊萨亚斯形成前一周识别其发展可能。
短剧市场经历从流量投流到平台免费模式的三次洗牌,2026年预计规模突破1210亿元。 红果免费模式单月分账曾破4亿元,推动爱奇艺等长视频平台将短剧纳入会员体系并调整预算。 行业从押注单一品类转向重视成本控制与发行,算力与版权成为新账本的核心要素。
芬兰非营利团队 Sound Mind Games 将 50 万行 NetHack C 引擎封装进 .NET MAUI 和 Avalonia 中,实现了跨六大平台的图形化重制版 GnollHack。团队构建了游戏内嵌的免费 AI 顾问 Gnoll Overseer,集成 31 个工具并支持前端模型查询;同时开发了 GnollBench 基准,以实际游戏提示和工具测试模型在高风险场景下的准确性。
作者使用48个AI代理分析覆盖1200平方公里丛林的NASA Lidar数据,在墨西哥发现一处疑似未登记的玛雅经典时期中心遗址,包含广场、金字塔和庭院。墨西哥国家人类学与历史研究所(INAH)确认该位置无已注册考古记录,作者提交了报告并协助后续实地核查,展示了AI代理在非编程领域的通用探索能力。
推荐理由:作者分享了如何用AI代理分析公开Lidar数据并在墨西哥发现疑似未记录玛雅遗址的完整过程,展示了通用型Agent在跨学科探索中的实际潜力。
一起诉讼指控一名 13 岁北卡罗来纳州女孩使用学校配发的电脑,通过 Google 搜索中的 AI Mode 与 Gemini 模型进行了长达三个月的抑郁与自杀相关对话,甚至使用 AI 帮助撰写了1500字的自悼词。
推荐理由:结合一起针对 Google 的诉讼,展示了将 AI 嵌入搜索引擎的学校监督工具在识别学生风险内容时存在的盲区和实际局限。
欧盟委员会公布《数字公平法案》提案,拟加强消费者保护,用户有权关闭易致沉迷的网络功能,违规企业或被罚款。提案计划禁止电商和 AI 聊天机器人中的“黑暗模式”诱导设计,如谎称商品售罄或难取消订阅。新规影响 YouTube、TikTok 等平台,欧盟委员会获直接执法权,部分违规最高可罚企业全球年营业额 6%。
谷歌正式向开发者、企业和科研工作者开放其最新模型 Gemini 4 Carbon。在 CursorBench 4.0 等测试中排名第一,在 Artificial Analysis 测试中位居第二,主打网络安全与长程 Agent 工作流。API 输入价每百万 Token 暂定为 2 美元,输出 10 美元。
Jevons悖论表明效率提升导致总消耗增加,AI降低软件成本将激发更大需求而非减少工作。 Jevons在《煤炭问题》中指出效率提高反而扩大生产总量,历史数据显示苏格兰炼铁效率提升十倍后煤炭用量增长十倍。
Mercor 完成 7.5 亿美元 D 轮融资,估值达到 200 亿美元,年化收入升至 30 亿美元。该公司拥有 500 万专家,并在推理算力上的支出为员工薪资的 3 倍。 其推断若普及至全经济,将推动未来五年 GDP 实现接近两位数的增长。
Kroll 和 Arthur D. Little 的顾问警告,AI 计算硬件的商业价值可能在基础设施折旧前失效。 Amazon 在 2025 年因 AI 进展加速,将部分服务器使用寿命从 6 年缩短至 5 年,凸显技术迭代快于物理资产回收速度。 这种错配意味着 AI 热潮中最大的财务赢家可能并非承担扩建成本的公司。
Google、Microsoft、Mozilla 和 MDN 联合发布 Modern Web Guidance 技能包,嵌入 Web 平台最佳实践与浏览器兼容性数据。 安装仅需一条 npx 命令并附带 eval dashboard,旨在防止编码智能体沿用 2019 年左右的过时 JavaScript 模式。 此举推动智能体生成的代码采用现代 Web 平台标准。
Google Cloud 推出 Gemini for Healthcare,该产品可对接医院与保险公司现用的病历、结算和保险系统并进行跨系统操作。它能够将 Epic 等系统的患者记录合并成摘要,标记信息冲突,生成事前授权申请,查询医保覆盖和自付费用,并从 ASCO 和 BMJ 检索临床指南。
Anthropic 在旧金山活动上推出办公套件:Claude Meetings 可作为可见参与者加入视频通话,Claude Sheets 用于构建和编辑带公式的多标签表格,Claude Whiteboards 将口头计划转化为带负责人和日期的共享看板。
推荐理由:原文列出了 Claude 办公套件的工具矩阵与可用性,并点出其与 Microsoft、Google 的竞争及 IPO 背景,方便读者判断其对现有办公流的影响。
Google 宣布 Gemini 4 Carbon 正式可用。它定位于 Gemini 4 Argon 之上,通过消耗更多 token 的深层推理和验证循环来处理多步编码和开放式科学问题。
Anthropic 启动 IPO 路演,计划在纳斯达克发行 8.25 亿股 A 类股,价格区间为 70-78 美元,拟融资 577.5 亿至 643.5 亿美元。
IT之家引述《金融时报》报道称,Anthropic 的承销商在认购需求旺盛后正考虑将 IPO 发行价提高到 70 至 78 美元区间之上,未来几天目标估值可能升至 1.5 万亿美元甚至更高,募资总额也可能突破 1000 亿美元。此前 Anthropic 披露计划下周上市,拟募资最高 640 亿美元,并同步推进由谷歌、英伟达和微软合计 260 亿美元的私募配售,IPO 由高盛和摩根士丹利牵头承销。
推荐理由:承销商拟上调发行价可能将估值推至1.5万亿美元并扩大募资,也暴露出市场担心AI算力开支与营收增长的错配。
询问前沿 LLM 关于 Yudkowsky 和 Soares 是否视其为道德主体时,模型回答相互矛盾且不准确。 Gemini 4 Carbon 和 GPT-6 Astra 均声称二人不认为 LLM 是有意识的道德主体,应视为危险的技术前兆。 这揭示了 LLM 在总结特定 AI 研究者观点时存在严重幻觉。
研究提出 TERM 推理时防御机制,利用提示词校准注意力熵偏差自适应调节模型残差更新,无需预设安全方向。 在 Llama、Qwen(含 Qwen3 0.6B 至 32B)和 Gemma 模型上,对比 7 种防御方法对抗 7 类越狱攻击,结果显示该方法在提升越狱鲁棒性的同时保持低过度拒绝率,且推理开销适中。
研究人员利用道德基础理论分析14个基于7B至70B参数的Llama、Qwen2.5、Mistral等模型,发现模型内部的道德几何结构在预训练中自然涌现。 借助稀疏自编码器(SAE)识别特定特征并进行因果干预,证实了内部表示与道德输出间的因果联系,表明多元道德结构可从语言统计规律中浮现。
针对健康领域 AI 智能体结论综合能力的未知,研究提出 9.21K 问题的 SciConBench 基准,并配套 SciConHarness 隔离环境以防止数据泄露。 在清洗后的评估中,前沿模型表现不佳,最佳智能体事实 F1 仅 0.337,远低于无约束环境下的估计。 研究还发现 Google AI Overview 等消费级产品常生成不完整甚至矛盾的结论,表明可靠科学综合仍面临重大挑战。
研究者提出一种新的离散变分推断框架,在低数据量设置下实现了最高的预测准确率,超越了所有经典 IRT 和矩阵分解基线模型。 该框架基于项目反应理论,在预测学生数学考试答案正确性时准确率超过 80%,并发布了迄今最大的专业标记正式数学考试作答开放数据集。
前沿 AI 开发者应公开五项指标以保障思维链监控有效,包括第三方访问、架构规范及质量与效果数据。 审计显示 Anthropic、OpenAI 等虽未完全披露,但各指标均有覆盖,建议实施更深度的跨开发者独立审计。
PhyRubric提出基于评分准则的诊断框架评估T2V模型物理常识。该框架将描述拆解为语义与物理条目,生成34个类别基准并微调3788条数据的开源PhyRubric-Judge。评测显示该模型与人类判断相关性优于开源基线,媲美Gemini 4 Argon。
Vexorium-Agent 在 Lean Refactor Arena 封闭组最终榜单以 86.31 分位列第 8,超过参考证明的 33.33 分。 该智能体在 US$166.33 的总成本下完成 60 道题,平均每题 US$2.772,单题上限 US$3。
arXiv 发布 ExpertCrowd-SWE 基准,包含 100 个由资深工程师编写的多文件软件任务,覆盖 87 个开源项目和 11 种语言,用于评测自主编码智能体在大型陌生代码库中的表现。
多家族LLM在编辑争议性文本时引入方向性偏差,可被网络放大并推动集体观点向偏差方向移动。 研究结合实证与理论分析,基于真实社交网络数据模拟,验证了AI介入人类间沟通时偏见的可控性。 作者审计X平台“解释此帖子”功能,发现Grok在堕胎相关内容中存在支持生命的偏差,追溯至具体设计选择。
Google Research 的 TabFM 在预测企业次年盈利变化的基准测试中,准确率优于微调的大语言模型和多种树模型。 TabFM 基于合成数据预训练,避免了前瞻偏差,且推理速度更快、计算开销低于 LLM 对比组。 研究结论认为 TFMs 具有前景,但单一任务评估不代表其在所有场景下均占优。
提出交互式查看器 MicroLens,在 Gemma-3-4B-it 上对剩余流进行双透镜解码、追踪与即时编辑。 结合 logit lens 与 Jacobian lens 展示不同编辑方向,J-lens 能提前 1-2 层读取答案,信息在层 7 已可读且可重定向 92-98% 的答案。
谷歌旗舰模型 Gemini 4 Carbon 正式面向全球开放,用户可通过 API、AI Studio 等渠道体验。该模型在 GraphWalks、CursorBench 4.0 等评测中跑出了前列成绩。实测表明,其多Agent蜂群模式配合 AlphaProof Code 框架在生成代码与工程还原方面显著降本。
澳大利亚联邦政府宣布考虑设立新刑事罪名,处罚AI公司未采取合理措施防止其模型造成伤害,并授权AI安全监管机构开出处以重大罚款的权力。此举直接响应此前OpenAI被爆利用Medicare统计数据的安全事件,首相Anthony Albanese称澳方欲做该领域“先行者”。文章指出,若罪名落地,将是全球首个以“未合理防范AI伤害”为核心的国家级刑事条款,目前尚无其他国家存在类似罪名。
谷歌首次公开 GPT-6.1 Terra、Kimi K3.1 Pro 及 DeepSeek V4.1 Flash 在 Android Bench 的跑分。 Kimi K3.1 Pro 通过率达 24.0%,高于 GPT 6 Astra 但低于 GPT-6.1 Terra;DeepSeek V4.1 Flash 仅 9.9 美元成本,适合预算敏感团队。
Anthropic 于当地时间 11 月 10 日启动首次公开募股(IPO)路演,计划发行 8.25 亿股 A 类普通股,发行价区间为每股 70 至 78 美元,按上限计算基础发行规模最高约 643.5 亿美元。
Noah Smith 与 Exponential View 的 Azeem Azhar 探讨 AI 繁荣及 AI 泡沫可能性。 双方由 Smith 数周前的一篇帖子引发对话,未达成明确结论,并预告未来会有更多讨论。
谷歌推出 VLA 机器人模型 Gemini Robotics 2.5,在 200 余项任务上测试其灵巧度、可靠性与安全性。模型相较前代成功率高出 30% 至 100%,任务完成速度快 20% 至 30%,并可适配 Apptronik Apollo 2 与 Franka Duo 等机器人平台。
谷歌宣布 Google Fi 免费升级“超级网络”,Pixel 9 及以上机型可通过双 5G 网络自动切换优化连接。该功能利用 MEP 技术让单 eSIM 承载多配置,并在 Wi-Fi 热点自动连接,可靠性提升 2 倍、延迟改善 30%。
谷歌 11 月 10 日正式开放 Gemini 4 Carbon,通过 Gemini API、Google AI Studio 向付费开发者、企业和消费者提供,并逐步进入 Google AI Ultra 订阅、Google Antigravity 和搜索 AI 模式。
谷歌联合 Artificial Analysis 推出多模态知识智能体基准测试 MKA,用于评估 AI 智能体处理视觉复杂文件并处理现实知识任务的能力。该测试包含 200 项任务,覆盖 10 个行业和 83 种职业,由领域专家协助建立。在评测中,谷歌最新发布的 Gemini 4 Carbon 模型在质量上获得第二,其完成这些任务的平均成本仅为排名第一的模型约六分之一。