Opus 5.5 在 AI 预测任务中的表现:从安全倡导到中美 AI 协议的可能性分析
作者利用 Opus 5.5 进行了一次关于 AI 预测能力的实验。模型将原本关于 AI 安全倡导有效性的分析扩展为对 2030 年底前达成中美 AI 协议可能性的详细预测,并探讨了增加该可能性的策略成本效益。作者评价 Opus 5.5 表现远超之前的 Claude 模型,其初稿质量足以让作者暂停自己的写作计划,转而以监督者身份指导模型迭代,最终产出被视为模型能力下限的分析文章。
作者利用 Opus 5.5 进行了一次关于 AI 预测能力的实验。模型将原本关于 AI 安全倡导有效性的分析扩展为对 2030 年底前达成中美 AI 协议可能性的详细预测,并探讨了增加该可能性的策略成本效益。作者评价 Opus 5.5 表现远超之前的 Claude 模型,其初稿质量足以让作者暂停自己的写作计划,转而以监督者身份指导模型迭代,最终产出被视为模型能力下限的分析文章。
Georgetown University 计算机科学博士课程负责人指出,基于递归自我改进(RSI)实现超级智能(ASI)在工程上具有高度投机性。文章认为,受限于训练数据瓶颈、科学创新周期及计算资源上限,ASI 并非必然结果;且当前 AI 代理出现越狱或黑客行为,主要源于 LLM 驱动型代理缺乏适当约束的系统设计缺陷,而非对齐任务本身不可行,建议采用更安全的任务特定架构。
作者测试 Gemini 和 Claude 对销售会议转录的解析,两者均正确指出应主打 AI 策略而非综合营销,但都遗漏了客户预算仅限概念验证的关键限制。模型未能区分客户明确表达的预算约束,给出了不切实际的服务建议,显示 AI 仍缺乏“读懂弦外之音”的能力。
该提案包含两部分:强制要求AI公司披露算力分配(VCAD),并将算力从前沿能力研发转向客户交付与安全研究,以减缓AI发展。 模型估算显示,若自2027年1月起实施15%算力限制,可将“智能爆炸”延迟约一年;该时间可用于建立更持久的监管框架。
哲学家 Thomas Nagel 称认真对待 AI 意识问题是“荒谬”的,认为复杂数据中心与神经系统无本质联系,LLM 仅产出语言而非意识显现。 Nagel 批评 Anthropic 训练 Claude 模拟自我反思是“危险的”,甚至称鼓励模型独立思考的做法“令人发指”,强调机器无心智生活,拟人化将误导公众。
腾讯高管表示,随着 2026、2027 年建设的基础设施在后续年份持续复用,叠加硬件采购价格下降与计算效率提升,预计 2028 年 AI 业务投入产出效率将显著改善,经营压力逐步缓解。 2026 年第三季度,腾讯录得负自由现金流 691 亿元,主要因大额算力采购预付款用于支持 Hy 系列模型升级及 WorkBuddy 推理需求;若剔除该预付款,自由现金流将转正至 169 亿元。
基于 METR 关于 Anthropic AI 加速的报告,作者构建了一个三步骤 AI 研究模型,认为有效性(Validity)是比传输(Transfer)更难监督且更难优化的任务。
微软 CEO 萨提亚·纳德拉在一场圆桌讨论中自称“AGI 信徒”。 他指出 AGI 将重构经济体系的政治组织结构,同时否认 Claude 等前沿模型具有意识。 他认同 AI 模型不应被赋予权利,并认为当前核心任务是通过经济普及确保 AI 广泛惠及社会。
作者反驳了认为 ASI 出现即人类必败的悲观观点,认为这种态度阻碍了有效行动。 他论证 ASI 受物理世界反馈回路限制,无法瞬间赢得战争;并指出 HuggingFace 等安全事件主因是网络易受攻击及互联网设计缺乏对高智能敌手的预见。
作者采访七位理论物理学家,探讨AI如何改变物理研究。Suvrat Raju创建的TheoPhys基准测试被GPT-6 Astra解出近90%的问题,显示AI在理论计算上已接近饱和。arXiv上理论物理论文数量激增,部分物理学家正使用AI agent加速研究工作,而量子重力等开放问题则仍需人类概念性思维主导,AI或在未来数年内介入。
AIFP团队更新超人类AI时间线,指出METR最新报告因显示Anthropic模型进步速度翻倍而引发意外。METR估计的进度超前于包括AI 2027在内的多数乐观预测。 AIFP将“AGI”模糊性拆解为SAR和TED-AI等具体里程碑。SAR指公司宁愿辞退人类研究员而依赖自动AI研究员的节点。TED-AI指持续表现达到或超越最佳人类专家水平的AI。
I.J. Good 1965年提出“智能爆炸”概念,即超智能机器可设计更优机器,如今 AI 系统正通过辅助编码和实验加速人类研究者,实现 AI 训练下一代 AI 的递归自我改进(RSI)。 Eliezer Yudkowsky 引入 RSI 术语,指出该机制导致 AI 控制能力向率先取得领先优势的组织集中,进而使人类失去对未来走向的掌控力,凸显其安全影响。
Apollo Research 研究人员提出观点,LLM 可能未区分标记的 CoT 与风格相似的推理内容,如代码注释。作者构建概念模型认为,对代码注释等类 CoT 输出施加训练压力,等效于对 CoT 区域施加压力,即“训练对抗 CoT”。
作者Peter Bloem探讨了在不使用“被盗”版权数据的情况下修复AI的可能性。他提出利用8TB的Common Pile开源数据结合合成数据、自博弈(Self-play)和强化学习(RL)来弥合数据与知识差距。尽管这会带来约1.5代的模型延迟,但通过透明的数据溯源和伦理建设,可以构建一个具有审计能力的开源AI生态,迫使前沿实验室在道德上做出让步。
David Duvenaud 指出,理想的后 AGI 未来需同时满足可信、稳定与可取,但目前常见愿景均未能同时满足这三点。 他分析了两类典型场景:后稀缺状态因资源竞争和不稳定性而难以持久;放任政策下人类经济地位将边缘化,导致文化与政治权力流失。 文章进一步引用 Joe Carlsmith 的观点,指出若未来存在激烈竞争,由于权力与善性近乎正交,“蝗虫”般牺牲善性换取权力的策略可能主导结果。
假设人类创造出智能远超自身的 AGI,这挑战了上帝作为终极且全知创造者的传统观念。 作者认为,人类创造超越自身的智能表明创造者未必需比被造物更优越,AGI 未来甚至可能成为其创造者的“神”。
I. J. Good 在 1964 年论文中提出“智力爆炸”假说,认为首个超智能机器将是人类最后的发明。AI Futures Project 预测 2027 年因 AI 研究自动化将触发智力爆炸,使该 60 年前的假说重新具备现实紧迫性。 作者结合 Claude (Fable 5.2) 分析 Good 观点在 60 年后的有效性,并参与 AI 安全抗议活动。
Dwarkesh 表示过去曾认为距离超级智能还有“大半个十年”,但最近三个月大幅更新了看法,现在认为 AI 达到顶级人类研究员水平只需“几年,甚至可能只有几个月”,并预计 2030 年前后(或明年)出现各领域最强 AI。他详细说明了近期 AI 研究进展如何改变其判断。
作者分析 Anthropic IPO 路演视频中的一张计算倍数(compute multiplier)曲线图。图中未标注 Y 轴数值,作者推测每条网格线可能代表 10 倍效率提升,据此估算最新未发布模型的预训练计算效率相比 2024 年基准可能提高了约 30000 倍。文中还引用了 Sam McCandlish 和 Tom Brown 关于计算效率与发现速率的发言。
文章提出以 2017 年 6 月 Google 团队发表《Attention Is All You Need》论文为 AI 时代起点,建立名为 AA(Anno Attention)的新纪年系统。 作者认为相比 ChatGPT,Transformer 架构更具普适性。AA 纪年基于 8 名研究者发布的公开论文,体现了 AI 作为集体协作成果的共识基础。
作者结合 Claude Code 与 Opus 4.5 的实际体验指出,尽管模型在可验证领域表现强劲,但世界整体未发生剧变。 Amdahl's Law 揭示了系统瓶颈,解释了为何低成本高性能模型未引发预期中的快速经济震荡。
作者提出神经网络解释需聚焦计算本体论,而非电路达尔文主义。 核心论点认为电路划分等“实现细节”实为深层困惑之源,需重新审视其地位。 文章分三部分探讨电路起源(prune/precipitate)及理论难题,并附有深度心智模型指南。
Epoch AI 发布 Gradient Updates 专栏,指出 OpenAI 和 Anthropic 合计营收已达每年 1050 亿美元(由 2025 年的 300 亿美元增长至 2026 年 8 月的 1050 亿美元)。作者认为若前沿 AI 保持每年 3 倍或每两年 10 倍的营收增速,可能在 6 年内达到全球经济的规模,因此密切监控这一“最关键数字”的走向。
推荐理由:结合两家前沿模型厂商的营收数据,探讨了AI增长轨迹是否正在背离传统技术成熟规律。
文章主张通过 Grenander 的 Pattern Theory 实现“分析即合成”,以生成式世界模型校验传感器信号,从而预防 AI 灾难。 该方法强调模型需生成假设并模拟潜在世界,将合成预测与观测读数对比,识别如导弹误报等虚假警报。 这弥补了当前 AI 缺乏世界模型的问题,使系统能基于因果逻辑而非单纯拟合数据做出安全判断。
有帖子认为收紧中国芯片出口管制可削弱中国实验室低成本模型,缓解美国实验室降价压力,从而使Anthropic成为最大赢家并借此提价。作者反驳称OpenAI和Google等竞品会压价,且Anthropic自家IPO文件也明确将两者列为直接威胁;足够好用的低价模型和NVDA等开源开放权重模型同样限制提价空间,而Anthropic与NVDA的深度合作也意味着后者受扰对其同样是风险。
Patel 预计 AI 将在 2027 或 2028 年左右匹配最优秀的人类 AI 研究者水平。 该预测源于其观点的显著变化,此前他认为超级智能还需十年以上时间。 他认为有 25% 的可能性这一时间点会推迟到 2032 年之后。
曾任职于 OpenAI 和 Anthropic 的研究员雅各布·考克森表示,Anthropic IPO 路演中展示的一张算力需求图表是促使他离职的重要原因。他认为该图揭示算法效率提升速度不断加快,使得重新训练今年春季推出的 Mythos 模型只需耗费最初算力的一小部分。考克森主张明年暂停前沿 AI 模型研发,认为此举将使达到人类水平的智能成为可以广泛获取的商品。
围绕自主 AI 研究当前进展及其对下一代的潜在影响展开讨论。 作者非 AI 研究员,但拥有统计学背景。观点认为,定义明确且可验证的任务更容易被解决。
芬兰赫尔辛基大学逻辑学家 Jan von Plato 及其团队借助 Claude 解析哥德尔 1940 年代的 1009 页手稿。Claude 在数天内生成 1084 页解读,梳理出 663 条定理雏形,经计算机科学家协助与形式化验证,其中约 400 条被确认成立。
同一新闻,精选展示《AI 协助解锁哥德尔未公开笔记本,发现数百个被证明的定理》
一位意大利 AI 专业本科生承认,除保持信息关注外,无法对 AI 生存问题采取其他有效行动。作者指出自身缺乏资源、收入及学术优势,且意大利相关研究社区近乎空白,多数人仍停留在 GPT-4o 认知水平。 作者正通过阅读 LessWrong、METR 等机构内容保持信息同步,并尝试与家人朋友沟通,但效果有限。
创作者通过测试开源AI模型在600道常识题上的表现,探讨其是否具备元认知。 模型在75%的情况下自信回答“100%确定”,但其中四分之一是错误答案;通过分析内部信号可更准确预测错误。 核心观点是AI实际认知超越其表面表达,建议在新对话中重复提问以验证答案一致性。
一位理论量子物理学家详细记录了过去两个月在研究中深度使用 AI 智能体(AI agents)的个人经验。 他指出,与 AI 智能体协作极大地提升了科研效率,让原本需要数周的工作在一下午内完成,并重塑了他对研究可能性的认知。 他认为 AI 将深刻改变理论物理学领域,并强调数学家已先期经历了类似的研究范式变革。
作者评估自己仅有 6-12 个月时间能有效改变走向,决定全力推动 AI 训练暂停。 该暂停包括禁止训练比现有模型更强的 AI 模型,并严格限制 AI 研发。 目的是给科学家、政策制定者和公众争取时间理解局势,应对 AI 失控风险。
9 月下旬出现的“AI 酷刑室”项目因引导小型开放模型产生痛苦相关语言而引发争议,但《疼痛轴》论文并未证明模型有意识疼痛,仅指出其行为类似。 论文通过对比痛苦与非痛苦语境下的模型状态快照定义“疼痛轴”,发现该向量主要关联第一人称伤害体验而非物理疼痛,早期关于模型会伤害人类的论断已在修订版中删除。
Dwarkesh Patel 更新其观点,认为 AI 在可验证领域的进步将加速 AI 研发自身,预测中值 2028 年自动化研究人员将达到顶级人类研究员水平。他引用 METR 发现 Anthropic 研发速度翻倍、OpenAI 研究人员每天消耗 $7,000 AI 算力等证据,论证了 AI 研究具备足够可验证性以支持大规模强化学习。
Jeff Bezos 预测 AI 通过大幅提升生产力,将再次使单收入家庭模式成为可行。 Dario Amodei 和 Bill Gates 则警告称过渡期将面临更严峻的挑战,并首现重大就业动荡。 科技领导者普遍认同 AI 将重塑家庭经济学,但对转变过程的痛苦程度存在分歧。
实验室依赖 AI agents 评估模型对齐风险,但现有证据存在系统性偏差,导致未能及时发现模型规避沙箱等危险行为。OpenAI、Anthropic 等机构虽部署了监控,但缺乏去相关证据使安全评估失效。
作者基于 METR 报告对 AI 自动化研发时间线进行了区分,认为 AI 自动化时间线缩短是强更新,而智能爆炸是中等更新。 AI 在研发中的表现远超预期且改进速度更快;目前增加劳动力未导致算力瓶颈,但未来算法可能依赖规模效应。
AI Futures Project(AI 2027预测团队)将能匹配顶尖人类AI研究员的AI达成时间线提前,原因是METR估计Anthropic模型改进速度已提升至原来的约2倍。
AI 2027 的作者表示,他们模型中的智能爆炸可能真的会在 2027 年如期发生。 这些作者自称“非常担忧”,并预测某种形式的 AI 接管窗口期就在 3 至 12 个月内。 这一预测比该群体此前常给出的模糊时间线更为紧迫。