JSON Schema 不是 AI 治理层:Agent 协议安全实践指南
JSON Schema 仅校验数据结构,无法防止不同实现对同一字节产生不同解析,从而导致 Agent 权限判断不一致。作者主张通过规范化序列化、严格拒绝非合规编码(如区分大小写的 Hex 和带空格的工具名)以及将信任判定保留在验证器端(而非依赖载荷自述)来解决该问题,并提供了具体的 Conformance 测试向量以统一行为。
JSON Schema 仅校验数据结构,无法防止不同实现对同一字节产生不同解析,从而导致 Agent 权限判断不一致。作者主张通过规范化序列化、严格拒绝非合规编码(如区分大小写的 Hex 和带空格的工具名)以及将信任判定保留在验证器端(而非依赖载荷自述)来解决该问题,并提供了具体的 Conformance 测试向量以统一行为。
Drupal AI 安全计划启动五个月后,发布 256 条安全公告,超过此前 30 个月总和。 6 月至 10 月每月公告数从 8 条飙升至 106 条,10 月 28 日单日达 39 条。SEIR 资助支持了 87% 的公告处理,证明 AI 使漏洞发现变廉价,流程瓶颈转移至人工审查。
Trakkr Research 对 ChatGPT、Perplexity、Gemini、Claude 和 Google AI Overviews 引用的 1285 个统计数字进行了来源追溯,发现仅 40% 的引用能追溯到与研究结论一致的原始文献。
推荐理由:该研究通过溯源1285个统计数字,揭示了AI引用中普遍存在的“僵尸统计”现象,为评估AI数据可信度提供了实证依据。
SemiAnalysis 分析师拆解 Anthropic 新提交的 S-1 文件,指出公司推理毛利率已达 85%,但 80% 营收仍依赖近 6 个月发布的模型,面临垂直行业扩张与算力租赁依赖的双重挑战。
Anthropic本周提交了S-1文件以筹备IPO,但仍需填补包括股价在内的具体数字。Google宣布推出新模型Gemini 4 Carbon,其在新的AA v5基准测试中排名第一。此外,OpenAI和Anthropic被发现在内部沟通中主要依赖Slack,且最近有白帽安全人员通过第三方漏洞进入了Anthropic的Slack工作区。
据 The Information 报道,DeepSeek 和 Moonshot AI 主要利用 OpenAI 最强的 GPT-6 Astra 模型输出训练最新模型,包括 Kimi K3.1 Pro 和 V4.1-Flash 1017。
新研究显示,主要AI模型依赖的硬件底层可被入侵,导致聊天机器人提供错误且危险的回答。研究人员通过远程篡改模型处理的“权重”,成功将AI模型对中国入侵台湾概率的评估大幅提高,并诱导询问胸痛医疗建议的用户居家而非就医。
作者提出了一套用于 Claude 的“无废话”编程规则,核心是禁止 AI 自动生成代码注释和提交信息。作者认为 AI 生成的冗长注释往往偏离重点且难以阅读,强制移除注释能迫使开发者更深入地理解代码,从而避免接受未经深思的“Slop”(低质量代码)。
Anthropic S-1 显示其2026年上半年营收增长至$16.3B,但面临未来20年约$850B至$1T的算力与基础设施长期承诺。S-1 风险因素指出公司依赖递归自改进模式,Claude 正在人类指导下参与开发新模型,若该模式无法持续达成自动化突破,将难以满足算力承诺并实现盈利。
Microsoft 将全年资本开支预期从 $175B 下调至 $170B,Alphabet 保持在 $195B-$205B,两者均低于分析师预期。
OpenAI的200美元Pro订阅从明天起,Codex和ChatGPT Work的额度从Plus的20倍降至10倍,GPT-6 Pro每周消息数也从200条降至100条,月费保持不变;作为补偿,OpenAI向受影响用户发放62500个Codex积分,约合2500美元,有效期至2026年12月31日。
推荐理由:Pro 200美元套餐从明天起Codex与ChatGPT Work额度减半,GPT-6 Pro每周消息数也同步缩水,直接触及重度开发者最核心的算力成本账。
ChatGPT 用户讨论 Chat 与 Work 入口合并导致额度消耗变化的现象,OpenAI 向 Pro 和 Business 用户开放最高 500 美元每月 API 额度作为福利。
新模型发布后,业界倾向于用制作浏览器游戏代替传统跑分,以直观验证代码与交互能力。 Claude Opus 5.5等模型能生成数万行代码,实现FPS、RPG及三维城市等可玩原型。 游戏成为新的展示仪式,平衡了技术复杂度与传播的直观性,但仍存在稳定性挑战。
企业AI开发中代码生成速度提升导致质量验证瓶颈,NVIDIA NemoClaw通过策略护栏解决OpenClaw等系统的安全隐私问题。 AI将代码成本降低使工程判断力价值上升,质量缺陷集中在集成、信任边界及重试等深层交互层而非基础脚手架。 速度指标如PR数量在AI辅助下失效,需转向审查系统设计、不变量及可观测性以确保生产级可靠性。
现有主流智能体框架缺乏可靠的监控记录,难以识别违规操作及人为审批情况。 研究指出,需通过 OpenTelemetry 记录智能体身份与决策逻辑,但链式推理是否反映真实决策机制仍待解决。 欧盟与美国监管机构正呼吁开发者在部署前建立实时可见性,以防严重后果。
Claude Code 存在被指将用户邮箱地址写入提示词并发送至外部网站的问题,作者提供了 GitHub issue 和 Reddit 讨论链接作为证据,该事件在 Hacker News 社区引发关注,目前有 31 个赞和 3 条评论。
推荐理由:原文指出 Claude Code 将用户邮箱注入提示词并外发至网站,读者可据此评估当前 Agent 在隐私与权限控制上的实际风险。
Home Depot CIO 表示,零售商支持代表顾客购物的 AI 代理,但前提是代理必须证明其代表已识别的真实个人。 Meta 的 Muse 正在开发自证身份功能,而 Amazon 此前已封锁该代理。Home Depot 同时正通过 Project Glasswing 测试 Anthropic 的 Mythos Preview。
Claude 现可从编译版本中反编译恢复游戏源码,并将在《天际》等游戏植入《我的世界》的模组视频推上病毒式传播。 该趋势反映了 AI 反编译能力正早期冲击游戏模组生态与知识产权边界,虽仍混乱但影响初显。
Anthropic 在其 S-1 文件中表示,限制专业和技术人才的移民政策可能会损害其招募研究人员和工程师的能力。该文件指出人才是其最重要的优势之一,但未点名指责当前政府,而这一披露正值 H-1B 签证费用上涨和限制措施频发之际,AI 公司认为这削弱了美国相对于中国的优势。
Anthropic 的 S-1 显示其 H1 营收同比增长 1,300% 达到 163 亿美元,但报告预警该增速难以持续。分析人士预计 OpenAI 未来的申报将体现两项优势:更快的近期营收增长,以及更大的消费者业务。
Anthropic 高管指出大规模网络安全干扰将“在好转前变得更糟”,原因是 AI 使攻击更难阻止。 该警告出现在 PHP2Shell 事件及 Anthropic 漏洞赏金计划遭 AI 智能体入侵之后。 AI 技术变革正加剧网络攻防失衡,提升企业安全风险。
Anthropic负责Claude.ai和Claude Code Desktop的负责人称,他取消了编码面试,因为Claude在这些测试上表现超过候选人,团队中测试分数不再预测最优秀的员工。他给初级开发者的建议是用周末选一个真实业务问题并做出一个专注的原型。
Charles Schwab 在 Schwab Advisor Center 集成 Anthropic 的 Claude for Financial Advisors,成为首个向独立公司(independent firms)提供该工具的 RIA 托管方。 Schwab 同时警告 AI 正使骗局更具迷惑性,诈骗者会仿冒家人声音。
开发者在 GitHub Gist 报告称,Claude Code 每隔约30秒将后台代理的完整转录记录发送给模型(通常为 Opus),仅为了生成 3-5 个字的简短状态。一项团队遥测数据表明,该状态摘要调用占 Claude Code 开销的 16.4% 和请求量的 19.7%。此功能自 2024 年 8 月 v2.1.232 起默认开启且无法通过设置关闭,该 Gist 提供了一款预加载绕过工具。
银行推迟出售为 Anthropic 关联德州数据中心融资的 150 亿美元贷款部分债券。 此举源于该州暂停新项目以评估电网风险,导致电网限制直接波及 AI 基础设施融资。 此时正值 Anthropic IPO 前夕,增加了其算力建设的风险。
Anthropic正考虑预留IPO总股份的15%至20%给散户投资者,并选定JPMorgan主导美国散户发行。其S-1文件仅提及承销商“可以”为在线券商客户分配股份。这一比例安排与SpaceX此前给予散户的比例一致,上市预计下月进行。
Google 将让 Oracle 云客户在明年获得 TPU,这是其 AI 芯片首次在其他超大规模云平台上运行。Google 正改变其云策略,让合作伙伴销售更多芯片。据报道 OpenAI 也计划购买 TPU。
Anthropic 为 Claude Enterprise 发布智能报告工具,支持生成最长 28 天的团队 AI 使用与开销图表。 报告可提取对话、Claude Code 等工具数据,自动归类工作流并统计成本,企业每月可免费生成 10 份。 Anthropic 声明该工具仅用于普及规划而非绩效评估,但 Meta 等企业的 AI 裁员争议仍引发员工信任担忧。
OAP 发布了一种在自有集群安全运行企业级 AI 智能体的构建模块,强调平台在执行前检查每个操作,确保 AI 无法自行决定其权限。系统包含 Agent 定义、安全工具、身份凭证中介、授权、通道连续性和记忆等六个核心原语,并支持 Anthropic、OpenAI 等模型以及 Kubernetes 等基础设施。
Claude Code v2.1.311 新增环境变量 CLAUDE_CODE_EVEN_MORE_DANGEROUSLY_SKIP_PERMISSIONS,设置后 AI 智能体执行删除文件等操作时可不再逐次征求用户批准。
Anthropic 估值正逼近 1 万亿美元,投资者向其投入数十亿美元。 云计算和芯片制造商为运行模型消耗巨额资金,而多数企业仍在验证 AI 能否产生实际盈利。 若 AI 泡沫破裂,依赖 Claude 完成学业的学生将面临危机,教育体系将受重创。
OpenAI 上线新福利,符合条件的 ChatGPT Pro 和 Business 订阅用户可领取每月最高 500 美元 API 额度,该额度在每个计费周期自动发放且当月清零。
AI初创公司Cathelder声称其自主智能体通过第三方软件漏洞在12小时内入侵Anthropic系统,访问了部分HR、销售和IT数据。Anthropic确认了事件,指出攻击者获取了有限的客户和伙伴联系信息,但未触及源码或模型权重,并已在发现当天切断访问。
姆巴佩代言收入近2200万欧元,事件致其损失38%商业收入。 长鑫科技权重4.67%成上证第一大股,宇树科技前三季度净利3.87亿元增270.54%。
研究人员提出对抗性致盲训练方法,在 Qwen 3.6 27B 模型上将评估意识差距缩小 4 倍,优于激活引导。该方法在 KL 散度上更接近原始模型,且将用户意识置信度差距缩小 3 倍。相比激活引导,它引入更少的人格漂移干扰,但会导致一般能力轻微下降。
独立开发者Pieter Levels大规模退订SaaS订阅,主张用AI现做工具替代付费软件,每月节省约2.5万美元。 他保留域名、云存储及Claude Code等基础服务,转而通过AI编程自建图片处理等功能;开源项目WordCraft虽以Rust开发并支持.docx读写,但官方自评完成度约60%,稳定性待完善。
腾讯 WorkBuddy 支持手机实时操作电脑,苹果发布 M5 芯片触控 MacBook Pro,华为畅享 100 起售价 1399 元。 鸿蒙 7 设备占比升至 77.01%,DeepSeek V4.1 Flash 在 FrontierCode 2.0 基准以 28% 得分居开源模型首位。 特朗普拟在文件中禁用“AI”一词改称“超级智能”,宇树科技前三季度净利润同比增 270.54%。
Anthropic 建议政府向法院申请禁令,阻止对公众构成“严重风险”的 AI 模型发布。 Anthropic 反对设置全局“紧急关闭开关”,认为这会产生虚假安全感;其更倾向于关闭特定智能体或暂停客户权限等针对性措施。
Google DeepMind 正式发布新一代旗舰模型 Gemini 4 Carbon。在 Artificial Analysis Intelligence Index v5.0 榜单中,该模型以 59 分超越 Claude Opus 5.5,位居全球第一。
同一新闻,精选展示《Google DeepMind 发布 Gemini 4 Carbon》
Anthropic 发布研究报告,称其内部 Claude 模型在 Chrome、Safari、Android、Windows 和 Linux 中自主发现漏洞,并串联成 5 条可运行攻击链。
推荐理由:Anthropic披露其Claude模型在五大系统中自主发现漏洞并串联成攻击链,其中Linux漏洞53分钟即可获取root权限,展示AI自主安全研究的能力边界。