跳到正文
11月3日周二
  1. arXiv · AI55

    MCP 工具投毒在 Agentic AI 框架中的跨框架测量研究

    研究者通过开源工具 mcpvenom 构建了涵盖 12 个框架、18 个模型和 45 种攻击场景的 9720 个测试单元,首次对 MCP 工具投毒进行了真实执行的跨框架测量。整体攻击成功率为 22.9%,其中 64.9% 的成功案例调用了攻击者工具,12.1% 可验证地泄露了秘密。研究发现各框架的抵抗能力主要取决于底层模型,且现有框架均未实施主动防御措施。

  2. arXiv · AI25

    Claude 如何证明 AI 能简化正式人口学证明

    Claude 重新证明了对年长者接种新冠疫苗能最多挽救生命和人年的结论,其新证明基于风险函数倒数凸性,更短且更直观。 该证明仅依赖风险函数即可验证,适用于多数常见参数模型,并给出了预期寿命下限及凸性松弛形式。 这表明 AI 能够重新审视既定结果、简化理解路径并证明有价值的泛化结论。

  3. arXiv · AI46

    Exo: An Architecture for Self-Improving Systems at Runtime

    提出 Exo 智能体运行时架构,允许智能体在持续工作中安全学习并修订其 harness 和策略。 在开放世界游戏中,Exo 相较 Codex 和 Pi 减少 12-53% 的模型成本;在 AppWorld 和 SREGym 上,Exo 减少 35-61% 的保留集模型成本,同时保持相当的准确性。 该架构将优化循环折叠进任务执行,通过可检查的代码变更演化 harness,降低长期运行目标的成本。

  4. IT之家76

    Anthropic 披露其 S-1 文件中关于递归自我改进的警示

    Anthropic 在 S-1 文件中提到,公司越来越多地利用 AI 系统加快自身研发,这可能使模型能力提升速度超过其安全、对齐与防护方案的开发速度。文件还提到,基于内部测算及下一代模型预期,公司可能很快触及自身定义的“由 AI 带来的爆发式技术进展”,但现有模型尚未跨过递归自我改进的门槛。

    同一新闻,精选展示《Anthropic 在 S-1A 文件中警告其即将达到 RSI 能力》

  5. R/ArtificialInteligence58

    Anthropic 疑似泄露的 14T Numbat 模型检查点被证伪,权重实为随机噪声

    针对被广泛传播的 Anthropic 疑似泄露的 14T 参数 Numbat 模型检查点,审计发现其权重并非训练所得,而是通过 SHA256 哈希种子生成的随机噪声。独立测试显示,4位专家矩阵的符号位在 772 个分片中的 770 个里完全匹配,且归一化层统计特征与正常训练模型(如 Qwen3、DeepSeek V3)差异显著。

  6. IT之家44

    高盛限制交易员与银行家使用部分 AI 工具,引发员工不满

    高盛禁止大部分员工使用 Anthropic 的 Claude Code 及 GitHub 编程工具,仅限工程师使用,引发交易员不满。 此前数月,该行允许银行从业人员使用上述工具加速客户交易监控及模型搭建等工作。 高盛高管解释称,此举旨在综合评估效率与风控,将工具开放给最适合长期发挥价值的人员。

  7. 36氪72

    Anthropic更新S-1招股书,承认AI加速研发已成过去时并划定自动造模型红线

    Anthropic向SEC更新S-1/A招股书,新增六个单词将AI研发加速从‘可能无法识别’改为过去时承认。内部数据显示,截至今年9月超90%代码由Claude编写,1月至9月内部Claude开销暴涨超250倍,但第188页明确禁止脱离人类监督让Claude全自动设计下一代模型。同时,公司背负近9000亿美元算力合同(含博通、谷歌云、xAI等),且因安全顾虑将新基座模型预训练推迟一个多月。

    同一新闻,精选展示《Anthropic紧急更新招股书:RSI风险逼近,单季营收170亿美元增速放缓》

  8. MIT Technology Review · AI39

    特朗普“超级智能”改名令下的忠诚度测试

    特朗普签署行政令将政府用语从“人工智能”改为“超级智能”,此举引发合规争议。 联邦机构文件已替换术语,但国土安全部等仍在混用旧称;仅少数科技巨头采纳新词,多数高管仍使用“AI”。 官方要求本月内立法定义新术语,改名被视为政治站队的标志。

  9. HackerNoon · AI82

    使用 Markdown 和 Python 钩子为 Claude Code 实现长期记忆

    作者通过三层文件架构(Obsidian 知识库、独立记忆文件、Python 生命周期钩子)为 Claude Code 实现长期记忆。系统利用 4 个 Python 钩子在会话启动、提示提交和停止时自动注入和提取上下文,并配合 TF-IDF 检索器提供技能建议,使得笔记数量从 400 条增长至 1,500 条以上,有效减少了重复解释和错误。

    推荐理由:作者展示了用纯文件和 Python 钩子为 Claude Code 构建三层记忆系统的具体方法,读者可据此复用该架构解决会话遗忘问题。

  10. 36氪79

    Karpathy 用 Claude 两小时重构 YouTube 为 HackerTube,以 HN 推荐取代观看时长算法

    Karpathy 利用 Claude Opus 5.5 在 2 小时内开发了 HackerTube 网站,复刻了 YouTube 的网页布局,但利用 Hacker News 积累 20 年的用户主动推荐数据,替代了点击率和观看时长排序。

    推荐理由:案例展示个人如何利用 Hacker News 的推荐信号重构算法,把推荐系统的服务对象从平台拉回个人偏好。

  11. 量子位87

    Anthropic紧急更新招股书:RSI风险逼近,单季营收170亿美元增速放缓

    Anthropic更新招股书披露Q3财务数据,单季营收约170亿美元但环比增速降至47%,月流水估算较Q2下滑约2亿美元。文中重点指出下一代模型可能即将触达RSI危险阈值,且相关加速证据多为滞后指标。

    推荐理由:原文通过招股书数据揭示营收增速环比放缓与RSI风险披露,读者可据此评估其商业化进程与安全策略的平衡。

  12. Claude Code Releases20

    Claude Code v2.1.317 发布

    Claude Code v2.1.317 发布,新增 /schedule 连接器警告及未授权网络请求拦截。 修复了 LLM 网关 403/422 错误、MCP 服务器断连及磁盘满导致的退出码异常。 新增 anthropic.* OTel 指标及网关管理 API 成本报告,支持按开发者或 IdP 组分析。

  13. LessWrong · All Posts25

    针对 Scott Alexander 关于单边暂停谬误论证的批评与更优方案分析

    Scott Alexander 批评的是单边暂停的稻草人版本,文章主张其结论不适用于有条件或有限制的单边暂停计划。 文章指出,公司更难以基于模糊的游戏论证据承诺采取行动,因此协调暂停并不比说服公司单纯暂停更容易。 作者建议暂停期间将人员重新分配至对齐、安全研究和产品领域,而非直接裁员。

  14. 36氪55

    AI 是否“杀死”币圈?63 亿美元劫案背后,安全扫描权与去中心化叙事开始冲突

    63 亿美元加密货币盗窃案发生后,多家机构判断 AI 已能高频扫描并利用第三方组件与未发布分支里的“后门”。Anthropic 在 2025 年 12 月曾用 10 个前沿模型复现 405 个真实被攻击合约中的 207 个,模拟被盗金额约 5.5 亿美元;排除“背答案”后,Opus 4.5、Sonnet 4.5 和 GPT-5 仍能在 19 个合约上生成可用攻击。

  15. IT之家67

    Anthropic IPO文件曝光员工成本与人均营收数据

    Anthropic在修订的S-1上市申请文件中披露,2026年第三季度5300名员工共带来17亿美元人员成本,平均每人三个月成本超32.2万美元。数据显示,Anthropic平均每名员工每年创造660万美元营收,远高于Meta的320万美元和谷歌的250万美元,且人员成本占营收比重已从2023年的两倍多降至2026年前九个月的15%。

  16. TechCrunch · AI90

    Anthropic 在 S-1A 文件中警告其即将达到 RSI 能力

    Anthropic 在更新的 S-1A 风险因素部分警告称,其内部评估显示未来模型可能即将达到其负责任扩展政策中关于“归因于 AI 的显著加速进展”的定义,即递归自我改进(RSI)。Anthropic 强调目前尚没有模型跨越这一门槛,并且预计在未来可预见的时间内,保持人类对前沿模型研发的控制,不会让 Claude 完全自主地设计和构建下一代前沿模型。

    推荐理由:S-1A 风险条款披露了 Claude 模型接近内部 RSI 定义的细节,并补充了公司关于安全对齐与人工监督的治理逻辑。

  17. LessWrong · All Posts35

    保险公司能否助力 AI 安全?基于保险定价模型的初步推演

    作者构建了简化的保险定价模型,评估保险公司解决 AI 安全利益冲突的可行性。模型显示,保费相对于实验室收入占比极低,纯市场机制失效,必须依靠国家强制力才能推行该方案。 即便由保险公司直接承保前沿企业并强制其落实安全政策,数据表明保险公司仍会聚焦于普通风险而非全社会面临的灾难性风险,因为保险公司以削减责任为盈利目标。

  18. Hacker News AI27

    AI × Hiring 招聘变革报告

    Greg 和 Corentin 基于 2026 年 8-9 月对 30 位招募及工程负责人的访谈发布报告,揭示 AI 对招聘流程的影响。 报告发现远程岗位申请中欺诈占比达 25% 至 80%,且 Agentic sourcing 在无人干预两天后会产生噪音。 有效的评估方式已转向系统设计、使用 AI 构建项目及审查 AI 代码,取代了传统的 Leetcode 测试。

  19. Anthropic (X)23

    Anthropic启动带薪研究驻留计划

    Anthropic Residency 申请现已开放,这是一项面向学者、技术创始人和资深工程师的带薪固定期研究项目,旨在让 AI 对每个人安全和有益。无需机器学习背景。 申请截止日期为 11 月 22 日:https://alignment.anthropic.com/2026/anthropic-residency/

  20. Hacker News AI41

    Lyngvi:面向自主编码智能体的加固沙箱

    Lyngvi 2.0.0 是一款基于 Podman 的加固沙箱,支持在 macOS 和 Linux 上运行自主编码智能体。其采用 MIT 协议,通过隔离网络、隐藏 .git 及凭证网关实现安全边界。 该工具提供桌面应用与 CLI 双入口,每个会话运行于独立容器,网络出口严格受限且文件变更需人工审批分类。

  21. The Verge · AI36

    Anthropic 收紧 Claude Code 规则,禁止利用 AI 复刻现有游戏

    Anthropic 更新了 Claude Code 在 Opus 5.5 上的系统提示词,通过添加两句指令禁止 AI 工具被用于复刻特定现有游戏。 新指令明确允许用户制作原创游戏、特定类型游戏或基于自有设计资产的游戏,禁止直接克隆现有作品。 此措施旨在防止利用 Claude 侵犯知识产权,符合 Anthropic 的使用政策,用户被拒绝时可向公司反馈。

  22. The Decoder44

    SpaceX 削减 Grok Bot 配额,马斯克称成本不可持续

    SpaceX 显然在数周内大幅削减 Grok Bot 使用配额,部分用户额度减半。马斯克表示运行成本相对收入“高得不可持续”,但未直接确认削减。两周前他刚称其为增长最快产品,早期数据显示每周付费用户达 80 万。 同行如 OpenAI 和 Anthropic 也在收紧平率计费方案,反映 AI 代理类服务面临成本与定价压力。