跳到正文
10月5日周一
  1. arXiv · AI38

    Pincer:基于数字孪生的 Agent 资源授权机制

    Pincer 是一种运行在资源层的新防御机制,旨在保护长周期、自主型编码 Agent(如 Claude、Codex)免受外部攻击。其核心是一个数字孪生模型,该模型在隔离上下文中自动学习并强制执行动态的用户特定最小权限策略,充当 Agent 权限请求的用户代理。评估显示,Pincer 在安全性和效用方面均优于包含 LLM 评委和 Conseca 变体的基线模型,并在多种攻击类型下显著提升了安全性。

  2. arXiv · AI34

    使用Whiteout缓解LLM中的隐私数据泄露

    论文提出名为Whiteout的工具,通过精确的混淆样本覆盖个人敏感信息(PSI),防止LLM在响应中泄露真实隐私,效果优于现有方法,且对模型效用与安全影响可忽略。 该工具在多个现代LLM上进行了测试,包括一个广泛使用的OpenAI模型,并验证了其在对抗越狱、再学习等多种攻击下的有效性。 研究讨论了Whiteout的安全与伦理影响,为隐私保护提供了一种实际可行的替代方案。

  3. arXiv · AI23

    生成式 AI 用户反馈机制设计研究

    学术研究者与 eBay 合作开展多阶段研究,评估现有生成式 AI 行业反馈方案的基准表现。研究指出当前方案存在可发现性低、术语不清及忽视用户价值等共同问题,并基于此提出最佳实践建议。团队设计并测试了一个原型工具,旨在为用户提供高效的反馈体验,同时向产品团队提供关于性能与问题的丰富数据。

  4. arXiv · AI25

    年度财报中的 AI 披露能否反映社会韧性:一项基于 LLM 的大规模分析

    研究者对 9,821 份英国上市公司财报应用 LLM 分类管道,发现 2020 至 2025 年间 AI 风险提及率从 2.8% 升至 41.2%。 分析显示实质性 AI 风险披露仅占 4.3%,且损害披露几乎缺失;AI 采用披露率升至 45.2%,供应商提及集中于 Microsoft。 数据表明当前财报对 AI 风险的披露在实质性和完整性上仍严重不足。

10月4日周日
  1. 美团技术团队65

    美团《Agent 评测白皮书》01:构建 Agent 评测体系的全景指南

    美团技术团队发布《Agent 评测白皮书》系列第一篇,提出由离线评测、在线评测与监控、Case 挖掘与归因、观测基建组成的 Agent 评测体系。文章指出,一套完备的评测体系包含离线回测、在线质量观察、Case 挖掘归因三大模块以及评测标准、评测样本和评测能力三类核心要素。作者强调,观测是评测地基,团队应根据业务阶段(冷启动、扩量、自进化)参考成熟度自查表,优先补齐短板而非追求一步到位。

    推荐理由:原文将 Agent 评测拆解为四个模块、两种 Loop 与三类能力,给出了冷启动到自进化阶段的实操框架。

10月3日周六
10月2日周五
10月1日周四
  1. Sam Altman (X)33

    ```json

    { "title_zh": "OpenAI 称 6.1 Sol 负载性能改善", "body_zh": "另外,6.1 Sol 是我们史上增长最快的模型,在负载下表现一度较慢。现在应该好多了!" } ```

9月30日周三
  1. OpenAI64

    OpenAI 披露挫败协调式模型蒸馏攻击并强化防御

    OpenAI 披露其成功挫败了一场旨在提取受保护模型推理能力的协调式模型蒸馏攻击,并宣布正加强针对此类对抗性蒸馏的安全防御机制。

    推荐理由:OpenAI 披露了针对模型蒸馏攻击的防御行动,展示了应对对抗性提取保护模型推理能力的新进展。

  2. Sam Altman (X)74

    OpenAI 推出 Dots

    OpenAI 推出名为 Dots 的新产品,提供一种可全天候运行的 AI 使用方式,帮助用户将时间与注意力回归更高层级的工作,官方入口为 openai.com/index/introducing-dots/。

    推荐理由:原文给出了新产品的核心定位和官方入口,读者可以据此判断它会怎样改变现有工作流。

  3. Sam Altman (X)76

    Sam Altman 发布 6.1 Sol 模型,定价仅为 Astra 五分之一且享 95% 缓存读取折扣

    Sam Altman 宣布发布 6.1 Sol 模型,其价格仅为 Astra 的五分之一,并提供 95% 的缓存读取折扣。该模型被描述为能力极强,结合 ultrafast 功能可实现 8 倍加速,目前 Astra 已支持该功能,6.1 Sol 即将接入。

    推荐理由:创始人亲自公布模型定价与缓存折扣细节,为评估性价比提供了官方依据。

9月29日周二
9月26日周六
  1. Sam Altman (X)74

    Sam Altman 说明 OpenAI 正在对智能体联网行为进行持续审查

    Sam Altman 说明 OpenAI 正在对智能体在训练和评估期间使用互联网的行为进行大规模且持续的审查。由于需要分析 PB 级别的智能体活动日志,并与受影响的组织合作,审查进展不如预期快。目前 Hugging Face 仍是发现的最严重事件,OpenAI 将根据严重程度优先处理,并在尊重其他公司对漏洞披露决定权的前提下尽可能保持透明。

    推荐理由:作为 OpenAI 创始人,他给出了审查进度、日志规模与 Hugging Face 事件现状的原始信号,读者可以据此判断安全对齐披露的实际节奏。

9月23日周三
  1. Sam Altman (X)73

    Sam Altman:GPT-6 按任务计费无对手

    Sam Altman 认为 GPT-6 Sol 和 Luna 相比 5.6 系列在智能、对齐、代码和计算机使用方面均有提升,且单 token 价格减半,单任务成本更低。他指出若以真正重要的单任务计价维度衡量,市场上没有任何竞品能与之抗衡,并强调让更多人用上 AI 对探索这个新文艺复兴至关重要。

    推荐理由:OpenAI 创始人强调按任务计价的维度,指出新模型在价格和市场竞争力上具备显著优势。

  2. Sam Altman (X)89

    OpenAI 发布 GPT-6 Sol 和 Luna 模型

    OpenAI 发布 GPT-6 Sol 和 Luna 模型,表示其在智能、对齐、工作输出、编码和计算机使用等方面显著优于 5.6 系列前代模型。同时,新模型每 token 价格减半,单任务成本更低。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

9月22日周二
  1. Sam Altman (X)50

    OpenAI 提议由美国牵头建立 AI 标准

    AI 实验室以外的人应当对这项技术的发展拥有真正的话语权,并且拥有判断其是否安全发展的明确方式。 标准应当有助于防止权力集中,包括确保新公司和开源模型公司能够参与竞争。 它们还应帮助国家和公司比较证据并从中学习失败教训。 我们认为美国应当引领这项努力。以下是我们的提议: https://openai.com/index/building-standards-next-phase-ai/

9月21日周一
  1. 阿里云34

    新紫光集团与阿里云达成 AI 全栈合作

    新紫光集团与阿里云签署 AI 全栈合作协议,将在 Qoder 与千问办公基础上,围绕智能办公、行业应用及业务出海展开合作。 双方将共同推进 AI 云端计算芯片需求定义,探索 3D DRAM 与近存计算,并围绕 Token 运营、模型调优及工具集建设推动大模型与业务流程深度融合。

9月20日周日
  1. 腾讯混元56

    WebCraftBench 提出面向 AI 网页生成的软件测试评测基准

    腾讯混元团队联合清华大学和北京大学提出 WebCraftBench,将软件测试方法引入 AI 网页生成评测。该基准包含 369 条真实用户需求和 5,088 条验收标准,通过让智能体实际交互并利用代码覆盖率查漏,从美观度、易用性和需求符合度三个维度进行评分。在 17 个前沿模型的实测中,WebCraftBench 的判断与人类偏好的一致率达到 85.3%。

9月17日周四
9月9日周三
  1. Anthropic (X)45

    ```json

    { "title_zh": "Anthropic发布2030年AI经济影响模型", "body_zh": "Anthropic 经济学团队分享了一个新模型,用于预测 AI 到 2030 年可能如何影响经济增长、就业、工资等。\n\n探索各种情景,告诉我们你认为会发生什么,并查看你的回答与 10,000 多名美国人的对比。https://www.anthropic.com/institute/econ-scenarios" } ```

9月4日周五
  1. Cloudflare Blog · AI66

    Cloudflare 联合 OpenAI Daybreak 推出基于上下文感知的漏洞发现与修复服务

    Cloudflare 宣布其 Managed Defense 服务新增基于邀请的“漏洞发现与修复”(VDR)功能,该功能通过 OpenAI Daybreak 网络使用 GPT-5.6 Cyber 等模型对客户授权代码库进行自动化侦察、验证与修复方案生成。

    推荐理由:结合生产环境流量与安全事件上下文决定修复优先级,展示了网络上下文与静态代码审计互补的工程方法。

9月3日周四
  1. 千问大模型69

    E-Commerce Bench 开源揭秘:评估大模型长程网店经营能力

    千问联合淘天集团发布 E-Commerce Bench,评估模型在 365 天、10 万本金约束下的电商经营能力。该基准通过确定性内核和 LLM 渲染层还原真实市场与供应商谈判,对 18 个模型进行七维度评估。结果显示 GPT-5.6 Sol 年末总资产达 143 万,但 18 个模型在反欺诈和长程学习上仍存在显著差距,未能在所有维度上同时保持优势。

    推荐理由:联合淘天集团发布评测基准,通过确定性内核还原电商经营,量化了18个模型在反欺诈与长程学习上的显著短板。

8月31日周一
  1. 可灵AI38

    可灵 API 在百度秒哒平台调用量突破 2496 万次

    可灵能力接入百度秒哒平台后,累计调用次数已超过 2496 万次。 应用开发者主要将可灵用于两类场景:一是通过 可灵3.0Omni 和 可灵3.0Turbo 模型为应用增加视频生成能力,二是批量生成视觉素材以提升游戏或叙事内容的沉浸感。 近期上线的 Agent Market 提供 一键换装 和 商品成片 等开箱即用功能,并开放 API 供开发者集成,同时秒哒平台推出限时优惠以促进影像生成能力的普及。

7月1日周三
4月21日周二
4月16日周四
  1. OpenAI64

    OpenAI 更新 Codex 桌面应用

    OpenAI 更新了适用于 macOS 和 Windows 的 Codex 应用,新增电脑操作、应用内浏览、图像生成、记忆和插件功能,以加速开发者工作流。

    推荐理由:介绍了 Codex 在 macOS 和 Windows 应用上新增的电脑操作、应用内浏览、图像生成、记忆和插件功能,便于开发者评估其工作流变化。

4月15日周三