跳到正文
11月9日周一
  1. LessWrong · All Posts79

    Ajeya 报告:AI 正在显著加速 AI 研究

    METR 同事的深入调查显示,2025 年 10 月至 2026 年 10 月间,Anthropic 的能力进展速度(以 AECI 衡量)比前 12 个月快了两倍。

    推荐理由:基于 METR 内部调研,论证了 AI 正在使 Anthropic 的能力进展速度翻倍,并指出该加速可能主要归因于 AI 自动化的 AI R&D。

11月8日周日
  1. Hacker News AI37

    LLM 不擅长设计使用 LLM 的 AI 系统

    LLM 常错误地设计使用 LLM 的 AI 系统,倾向于构建复杂的符号系统而非直接调用 LLM 来解决自然语言矛盾检测等问题。 作者将此归因于训练代码多为前 LLM 时代产物、RLVR 环境缺乏 API 权限,以及 AI 智能体在软件设计上的普通错误。 有效利用 LLM 需预测其表现以规避无效方法,否则将浪费大量时间和 token 陷入无解方案。

  2. IT之家50

    Anthropic 斥资 34 亿美元采购 1.7GW 燃气发电机组

    Anthropic 签下 AI 公司迄今最大发电设备订单,斥资 34 亿美元从 OnePWR Solutions 收购总功率 1.7GW 的重型发电机组。 OnePWR 两年前向卡特彼勒订购设备,Anthropic 直接接手了该订单而非购买服务。部分机组近期交付,其余将在两年内到位。 此举反映了 AI 公司为争夺电力供应,正绕过中间商直接向能源行业延伸。

  3. The Decoder67

    The Bitter Lesson 提出者 Richard Sutton 警告:单纯算力堆叠不能带来智能,LLM 扩展路线受到质疑

    图灵奖得主 Richard Sutton 在 X 上表示,单纯算力堆叠不足以成就智能,AI 科学需要更巧妙的、可以随算力增长的新学习方法,整个领域离终点还远。他进一步批评把合成数据当作主要训练燃料是“大错”,认为真实世界远比任何模拟复杂,当前 LLM 在训练结束后停止学习,需要的是能持续从自身经验中积累、且不遗忘旧知识的、具备世界模型的智能体。

  4. 36氪73

    Claude Code 六层代码审查流程解析

    Claude Code 团队公开其内部代码审查流程,包含测试验证、AI与安全审查、持续集成、人工审批及合并发布的六道检查关卡。该机制使需回滚的 PR 占比下降超 40%,并针对低风险代码实现自动免审,强调人工需负责判断风险及审查覆盖的完整性。

    推荐理由:文章拆解了Claude Code团队的六层审查机制,读者可从中提取一套针对AI生成代码的风险分级与验收方法。

  5. Hacker News AI80

    AI 网络攻击能力基准全景:四大类测试中模型性能的快速跃升

    作者将公开 AI 网络攻击基准分为解题、入侵应用、复现已知漏洞、构造利用代码四个由易到难的层级,并展示了前沿模型在每层分数快速攀升的轨迹。

    推荐理由:作者梳理了四类公开网络攻击基准的分数跃升,展示了前沿模型在数月内从解题到完整利用漏洞的能力进展。

  6. The Decoder68

    阿里联合多所高校发布新基准:AI编码代理近3/4任务需人工收尾

    阿里联合多所高校团队发布了新的编码代理基准测试 Co-Design Bench,要求AI代理根据多模态输入重构现有的Web应用。GPT-6 Astra等10款模型表现最优,但仍有近2/3任务存在细节缺失,完全正确率仅为26.4%。旧基准测试中AI表现接近满分,而真实场景下任务复杂度大幅上升,且不同执行环境对测试结果影响显著。

  7. Seven Minute Feed31

    科技巨头面临儿童安全诉讼激增,同时加速将 AI 引入学校

    Snap 在洛杉矶庭审前秘密和解青少年安全诉讼,Meta、TikTok 和 YouTube 已先行和解同一案件。谷歌因 Gemini 导致学生心理危机遭起诉,OpenAI 面临针对 ChatGPT 的多起诉讼。 Meta 去年 8 月同意支付近 170 亿美元与州检察长和解,Anthropic 在 IPO 招股书中提示诉讼风险,尽管其禁止儿童使用 Claude。

  8. Seven Minute Feed60

    Anthropic 研究表明:Claude 知道何时遗忘时 Agent 记忆效果最佳

    Anthropic 测试发现,在跨会话记忆任务中,有选择地记录策略和规则比记录所有步骤更有效,全量记录会导致模型被过时数据淹没并产生错误(如在 Pokémon 任务中反复跌倒)。研究提出了一个名为 Dreaming 的会后处理流程,利用空闲时间审查早期转录、纠正错误笔记并构建结构化知识。这一发现重新定义了长期运行 Agent 的设计思路,强调知识筛选比单纯存储更为关键。

  9. R/ArtificialInteligence20

    关于AI生成文档与代码审查过载的讨论

    用户反馈在使用Claude和Gemini等LLM辅助工作或项目时,初期享受其快速生成文档和代码的优势,但随后陷入AI生成内容审查无休止、难读的困境。 大量经理堆积AI生成的冗长文档导致用户最终停止自我审查,引发对AI工具实际效用及信息过载的担忧。

  10. IT之家75

    GPT-6.1 Sol 参与活体小鼠脑手术:连续操作三次,定位误差减半

    GPT-6.1 Sol 在活体小鼠脑部手术的三次连续操作中,识别 Bregma 和 Lambda 解剖标志的耗时从 169 秒缩短至 86 秒,定位误差从 0.6 毫米降至 0.3 毫米。该改进由 Exin Therapeutics 团队借助外科医生的实时反馈完成,AI 保存了测量数据和修正记录供后续操作参考,而非通过重新训练更新参数。

  11. LessWrong · All Posts85

    RSI 现状:从 AI 研发占比到模型自我优化

    RSI 意味着 AI 改进自身。2026 年 9 月 Anthropic 合并代码量达每日 30,000 次,Claude 主导的 AI R&D 工作占比在 2026 年 8 月达到 26%。11 月 2 日 MIT 研究者用 GPT-6 Astra 直接修改 Qwen3.5-0.8B 权重,使 MATH-500 准确率从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。

  12. Hacker News AI42

    构建 AI Wrapper 产品前必读:市场垂直化与多元化盈利策略

    家庭 AI 助手 Ollie 在 2026 年 11 月 6 日关闭服务,创始人归因于 Muse 等产品的竞争及通用 AI 免费趋势。 NBER 数据显示仅 2.9% 的美国消费者支付 AI 订阅费,Instinct 则通过覆盖 10 亿美元年交易额的免费服务展示平台收费潜力。 产品需深耕垂直领域以解决特定痛点,或采用交易抽成、广告、平台费及按量计费替代订阅模式。

  13. Hacker News AI73

    RigHaven 发布:支持自托管与多角色编排的 AI 智能体执行框架

    RigHaven 是一个可自托管的 AI 智能体执行框架,通过协调器为任务自动组装角色团队,并从 99 个托管 CLI 工具中按需调用。每个角色在隔离容器中运行,且每个阶段需经用户审批;系统支持文档、视频、CAD、数据及网络等多模态任务,并允许通过 JupyterLab 等集成编辑器修改项目文件。

  14. APPSO65

    ChatGPT 大规模封号,OpenAI 近期收紧账号与 API 共享规则

    大量 ChatGPT 用户报告账号被突然删除或停用,涉及低价地区注册、多账号共享及第三方 API 代理,官方未公布具体原因。OpenAI 近期限制同一设备付费账号数量,并将于 11 月 20 日实施新版使用政策,限制利用其模型训练竞品及第三方中介访问,12 月起 ChatGPT 与 Codex 将共享 Token 使用额度。

  15. The Decoder61

    新研究发现:AI 审计工具能捕获多数智能体违规行为,但误报率居高不下

    新研究发现 AI 审计模型能捕获约 80% 的智能体奖励黑客行为,但在 5% 误报率下,GPT-5 捕获率达 98%,Gemini 3.8 Flash 仅约 50%。研究显示模型在 80% 漏报率下误报率仍高达 2.5% 至 3%,且使用更贵的新模型未必能显著降低误报。在 10 万每月会话规模下,3% 误报会产生近 3000 条误报,远超约 2000 条真实违规,导致人工审查失效。

11月7日周六
  1. IT之家55

    Claude Max 订阅套餐使用额度被指“虚标”,Anthropic 辩词未获法官采纳

    美国联邦法官裁定,Anthropic 必须继续应对 Claude Max 套餐使用额度涉嫌误导消费者的主要指控。原告指控按周计算时,100 美元和 200 美元套餐的实际额度分别为 Pro 套餐的 3.5 倍和 6 倍,远低于宣传的 5 倍和 20 倍。法官未采纳 Anthropic 关于额度指单次使用周期的抗辩理由,判定消费者有权追究过失性虚假陈述和违约责任。