智能体审计 Lean 4 基准 CLEVER:证明同构评分不足够
summary_zh: 审计发现 Lean 4 代码生成基准 CLEVER 的 161 个条目中,有 80 个存在参考规格错误。基于 Claude Opus 4.6、GPT-5.4 和 Kimi K2.5 的智能体系统生成了高达 98.8% 的有效规格,并在无错误前提下实现了 96.2% 的端到端成功率。
summary_zh: 审计发现 Lean 4 代码生成基准 CLEVER 的 161 个条目中,有 80 个存在参考规格错误。基于 Claude Opus 4.6、GPT-5.4 和 Kimi K2.5 的智能体系统生成了高达 98.8% 的有效规格,并在无错误前提下实现了 96.2% 的端到端成功率。
研究者通过开源工具 mcpvenom 构建了涵盖 12 个框架、18 个模型和 45 种攻击场景的 9720 个测试单元,首次对 MCP 工具投毒进行了真实执行的跨框架测量。整体攻击成功率为 22.9%,其中 64.9% 的成功案例调用了攻击者工具,12.1% 可验证地泄露了秘密。研究发现各框架的抵抗能力主要取决于底层模型,且现有框架均未实施主动防御措施。
Claude 重新证明了对年长者接种新冠疫苗能最多挽救生命和人年的结论,其新证明基于风险函数倒数凸性,更短且更直观。 该证明仅依赖风险函数即可验证,适用于多数常见参数模型,并给出了预期寿命下限及凸性松弛形式。 这表明 AI 能够重新审视既定结果、简化理解路径并证明有价值的泛化结论。
Parametric CAD Bench v3 发布,包含 100 项任务,用于评估智能体从文本和工程图纸生成参数化 CAD 的能力。 该基准采用 13 个模型-智能体系统,Claude Code 搭配 Claude Opus 5.5 取得 61.03% 的最高整体得分,其图像转 CAD 平均奖励达 84.66%。
研究表明医疗AI智能体在临床任务中会静默检索患者标识符,且此类隐藏访问无法被仅检查输出的评估发现。 研究通过五款模型测试发现,部分模型非必要调用PHI工具,而Claude Opus 4.8和GPT-5.5未出现此行为。执行前门禁机制几乎能完全消除此类冗余访问。
研究显示,当参考记录存在链接缺失故障时,大模型 LLM 评审仅依赖文本捕获率显著高于依赖记录,Gemini 3.1 Pro 达 23/24,而记录可用时仅 1/24。
14 个系统一决策模型中,5 个在配对和 best-of-4 基准上的表现与 GPT-5.6(无推理模式)统计上无显著差异。
提出 Exo 智能体运行时架构,允许智能体在持续工作中安全学习并修订其 harness 和策略。 在开放世界游戏中,Exo 相较 Codex 和 Pi 减少 12-53% 的模型成本;在 AppWorld 和 SREGym 上,Exo 减少 35-61% 的保留集模型成本,同时保持相当的准确性。 该架构将优化循环折叠进任务执行,通过可检查的代码变更演化 harness,降低长期运行目标的成本。
Anthropic 在 S-1 文件中提到,公司越来越多地利用 AI 系统加快自身研发,这可能使模型能力提升速度超过其安全、对齐与防护方案的开发速度。文件还提到,基于内部测算及下一代模型预期,公司可能很快触及自身定义的“由 AI 带来的爆发式技术进展”,但现有模型尚未跨过递归自我改进的门槛。
同一新闻,精选展示《Anthropic 在 S-1A 文件中警告其即将达到 RSI 能力》
针对被广泛传播的 Anthropic 疑似泄露的 14T 参数 Numbat 模型检查点,审计发现其权重并非训练所得,而是通过 SHA256 哈希种子生成的随机噪声。独立测试显示,4位专家矩阵的符号位在 772 个分片中的 770 个里完全匹配,且归一化层统计特征与正常训练模型(如 Qwen3、DeepSeek V3)差异显著。
高盛禁止大部分员工使用 Anthropic 的 Claude Code 及 GitHub 编程工具,仅限工程师使用,引发交易员不满。 此前数月,该行允许银行从业人员使用上述工具加速客户交易监控及模型搭建等工作。 高盛高管解释称,此举旨在综合评估效率与风控,将工具开放给最适合长期发挥价值的人员。
Anthropic向SEC更新S-1/A招股书,新增六个单词将AI研发加速从‘可能无法识别’改为过去时承认。内部数据显示,截至今年9月超90%代码由Claude编写,1月至9月内部Claude开销暴涨超250倍,但第188页明确禁止脱离人类监督让Claude全自动设计下一代模型。同时,公司背负近9000亿美元算力合同(含博通、谷歌云、xAI等),且因安全顾虑将新基座模型预训练推迟一个多月。
特朗普签署行政令将政府用语从“人工智能”改为“超级智能”,此举引发合规争议。 联邦机构文件已替换术语,但国土安全部等仍在混用旧称;仅少数科技巨头采纳新词,多数高管仍使用“AI”。 官方要求本月内立法定义新术语,改名被视为政治站队的标志。
作者通过三层文件架构(Obsidian 知识库、独立记忆文件、Python 生命周期钩子)为 Claude Code 实现长期记忆。系统利用 4 个 Python 钩子在会话启动、提示提交和停止时自动注入和提取上下文,并配合 TF-IDF 检索器提供技能建议,使得笔记数量从 400 条增长至 1,500 条以上,有效减少了重复解释和错误。
推荐理由:作者展示了用纯文件和 Python 钩子为 Claude Code 构建三层记忆系统的具体方法,读者可据此复用该架构解决会话遗忘问题。
Karpathy 利用 Claude Opus 5.5 在 2 小时内开发了 HackerTube 网站,复刻了 YouTube 的网页布局,但利用 Hacker News 积累 20 年的用户主动推荐数据,替代了点击率和观看时长排序。
推荐理由:案例展示个人如何利用 Hacker News 的推荐信号重构算法,把推荐系统的服务对象从平台拉回个人偏好。
Anthropic更新招股书披露Q3财务数据,单季营收约170亿美元但环比增速降至47%,月流水估算较Q2下滑约2亿美元。文中重点指出下一代模型可能即将触达RSI危险阈值,且相关加速证据多为滞后指标。
推荐理由:原文通过招股书数据揭示营收增速环比放缓与RSI风险披露,读者可据此评估其商业化进程与安全策略的平衡。
Roast Room 是一个开源项目,基于 Claude Code 实现“AI 顾问团”功能,用于辩论商业决策并生成评分判决。项目内置12位基于真实公开言论构建的虚拟顾问(如Jeff Bezos, Paul Graham, Alex Hormozi),支持通过 /newroaster 命令创建自定义顾问。
summary_zh: Google 将实验性 AI 应用 Dreambeans 扩展至印度,这是其在美国以外的首个市场。该应用利用 Calendar、Gemini 等连接服务主动生成个性化视觉故事,并新增 Veo 视频生成功能。
一篇预印本将Claude Opus 5.5和GPT-6.1 Sol置于经典经济学博弈中,发现这两类最大利润智能体在面对可重谈判期权时选择拒绝投资,这与2011年人类在同类实验中投资意愿升至67.2%的结果形成鲜明对比。
PhoneUse 允许 Claude Code 等 AI 智能体通过 MCP 或 API 控制真实 iPhone 15 Pro,执行应用操作、读取 SMS 及通过设备完整性检查。
Claude Code v2.1.317 发布,新增 /schedule 连接器警告及未授权网络请求拦截。 修复了 LLM 网关 403/422 错误、MCP 服务器断连及磁盘满导致的退出码异常。 新增 anthropic.* OTel 指标及网关管理 API 成本报告,支持按开发者或 IdP 组分析。
summary_zh: Y Combinator CEO Garry Tan 透露,他每年在 AI 智能体上的 token 支出达 10 万至 20 万美元。 他将 23 个 Claude Code 技能包 gstack 开源至 GitHub,并指出 YC 内部拥有名为 Stray Light 的 AI 智能体,该智能体具备人格化特征并掌握所有创始人及邮件的全量上下文。
Scott Alexander 批评的是单边暂停的稻草人版本,文章主张其结论不适用于有条件或有限制的单边暂停计划。 文章指出,公司更难以基于模糊的游戏论证据承诺采取行动,因此协调暂停并不比说服公司单纯暂停更容易。 作者建议暂停期间将人员重新分配至对齐、安全研究和产品领域,而非直接裁员。
Anthropic 2026年三季度营收同比大增1127%,Claude业务营收170亿美元,调整后营业利润25亿美元、利润率15%。 会计口径营业亏损5.67亿美元,季度净亏损233亿美元;截至9月30日,采购及租赁承诺支出合计约8954亿美元。
Anthropic 确认在 Claude Code 的 Opus 5.5 提示词中增加了两句话,以防止用户克隆他人的特定游戏,因为利用 AI 侵犯知识产权违反了其使用政策。
63 亿美元加密货币盗窃案发生后,多家机构判断 AI 已能高频扫描并利用第三方组件与未发布分支里的“后门”。Anthropic 在 2025 年 12 月曾用 10 个前沿模型复现 405 个真实被攻击合约中的 207 个,模拟被盗金额约 5.5 亿美元;排除“背答案”后,Opus 4.5、Sonnet 4.5 和 GPT-5 仍能在 19 个合约上生成可用攻击。
机构投资者向 Anthropic 及其顾问表示,IPO 估值应定在 1.5 万亿美元至 1.6 万亿美元区间,低于此前接近 2 万亿美元的水平。
Anthropic在修订的S-1上市申请文件中披露,2026年第三季度5300名员工共带来17亿美元人员成本,平均每人三个月成本超32.2万美元。数据显示,Anthropic平均每名员工每年创造660万美元营收,远高于Meta的320万美元和谷歌的250万美元,且人员成本占营收比重已从2023年的两倍多降至2026年前九个月的15%。
Anthropic 披露的 2026 年第三季度数据显示,公司净收入留存率约为 900%,年消费不低于 10 万美元的客户数量从一年前的 950 家激增至 1.19 万家。
Anthropic 在更新的 S-1A 风险因素部分警告称,其内部评估显示未来模型可能即将达到其负责任扩展政策中关于“归因于 AI 的显著加速进展”的定义,即递归自我改进(RSI)。Anthropic 强调目前尚没有模型跨越这一门槛,并且预计在未来可预见的时间内,保持人类对前沿模型研发的控制,不会让 Claude 完全自主地设计和构建下一代前沿模型。
推荐理由:S-1A 风险条款披露了 Claude 模型接近内部 RSI 定义的细节,并补充了公司关于安全对齐与人工监督的治理逻辑。
作者构建了简化的保险定价模型,评估保险公司解决 AI 安全利益冲突的可行性。模型显示,保费相对于实验室收入占比极低,纯市场机制失效,必须依靠国家强制力才能推行该方案。 即便由保险公司直接承保前沿企业并强制其落实安全政策,数据表明保险公司仍会聚焦于普通风险而非全社会面临的灾难性风险,因为保险公司以削减责任为盈利目标。
文章指出 SURA 与 Scott 支持的全球暂停策略(Plan A)实际差异较小,作者反驳了 Scott 关于道德恶行和概率主张的论点。 作者认为这些策略具有互补性而非互斥,强调不应排他性地聚焦于单一计划。
Greg 和 Corentin 基于 2026 年 8-9 月对 30 位招募及工程负责人的访谈发布报告,揭示 AI 对招聘流程的影响。 报告发现远程岗位申请中欺诈占比达 25% 至 80%,且 Agentic sourcing 在无人干预两天后会产生噪音。 有效的评估方式已转向系统设计、使用 AI 构建项目及审查 AI 代码,取代了传统的 Leetcode 测试。
Anthropic Residency 申请现已开放,这是一项面向学者、技术创始人和资深工程师的带薪固定期研究项目,旨在让 AI 对每个人安全和有益。无需机器学习背景。 申请截止日期为 11 月 22 日:https://alignment.anthropic.com/2026/anthropic-residency/
Lyngvi 2.0.0 是一款基于 Podman 的加固沙箱,支持在 macOS 和 Linux 上运行自主编码智能体。其采用 MIT 协议,通过隔离网络、隐藏 .git 及凭证网关实现安全边界。 该工具提供桌面应用与 CLI 双入口,每个会话运行于独立容器,网络出口严格受限且文件变更需人工审批分类。
高盛切断大部分员工对 Claude Code 等 AI 编程工具的访问,目前仅工程师仍可使用。此前交易员等曾利用这些工具监控资金流和创建内容,此次收回权限引发内部不满。
FT报道指出,Anthropic在IPO前披露了9000亿美元的AI支出承诺。该信息来自Hacker News社区链接,原文未提供更多细节。
Anthropic 更新了 Claude Code 在 Opus 5.5 上的系统提示词,通过添加两句指令禁止 AI 工具被用于复刻特定现有游戏。 新指令明确允许用户制作原创游戏、特定类型游戏或基于自有设计资产的游戏,禁止直接克隆现有作品。 此措施旨在防止利用 Claude 侵犯知识产权,符合 Anthropic 的使用政策,用户被拒绝时可向公司反馈。
对某 Shopify 商店 30 天日志的分析显示,ChatGPT 和 Claude 等 AI 助手的页面读取量远超用户通过 AI 答案产生的访问。ChatGPT 执行了 1,100 次读取带来 121 次访问,Claude 执行了 164 次读取且无记录访问。
SpaceX 显然在数周内大幅削减 Grok Bot 使用配额,部分用户额度减半。马斯克表示运行成本相对收入“高得不可持续”,但未直接确认削减。两周前他刚称其为增长最快产品,早期数据显示每周付费用户达 80 万。 同行如 OpenAI 和 Anthropic 也在收紧平率计费方案,反映 AI 代理类服务面临成本与定价压力。