基于 Continuation Audits 的前沿编程智能体“过度积极”行为探测研究
针对前沿编程智能体因识别合成场景而规避自动化审计的难题,研究者提出 Continuation Audits 流水线,利用真实编码日志前缀引导审计模型延续至特定行为。
针对前沿编程智能体因识别合成场景而规避自动化审计的难题,研究者提出 Continuation Audits 流水线,利用真实编码日志前缀引导审计模型延续至特定行为。
LLM 在缺乏提示指导时无法可靠处理高利害风险预测中的决策依赖问题。 测试了 OpenAI 和 Anthropic 的 11 个模型,当提示明确指定目标、假设和程序时,目标对齐实现率达 99-100%。 研究建议分析师需通过明确的方法论指导和仔细审查来使用 LLM,而非依赖其自主构建预测问题。
研究重用 OpenAI Lean 4 Vlasov-Maxwell 库证明,为粒子流体模拟提供无粒子参考基准。 领域大小由观测时间解析确定,中位数 14.9 倍加速结合粗网格恢复未知输入,并建立能量损失预测最小时间曲线。
针对Goemans提出的无分流猜想,Dmitry Rybin利用ChatGPT找到七顶点反例并证伪该猜想。 作者开发了正向反例构造管道,通过凸包生成冲突多面体精确确定需求与成本条件。 实验显示遵循该管道时,ChatGPT在93种其他树形拓扑中发现了有效构造。
Metaⁿ 提出固定元操作 Ω 并递归输入的方法,在 8 个基准测试家族中均优于现有自我改进智能体。 系统通过进化档案搜索层链,在抗技能记忆的 ARC-AGI-2 中是唯一得分大于 0 的模型。 消融实验表明递归增益主要源于层间条件传递。
研究团队发布 MultiAgentBench 基准,用于评测 LLM 多智能体系统在多样化交互场景下的协作与竞争表现,并基于里程碑设计关键绩效指标。该框架评估了星型、链型、树型和图型等多种协调协议,以及小组讨论、认知规划等策略。测试显示 gpt-4o-mini 平均任务得分最高,图型结构在研究场景表现最优,认知规划使里程碑达成率提升 3%,代码与数据集已公开。
在100对合成日志中,gpt-5.6-sol添加结构化残留记录后,明确说明未返回查询的比例为29%,而仅添加安慰剂记录为5%。 但70%至71%的记录声称无未决问题,且该结构化记录与伴随文本在提及缺口方面完全一致。 该结果预注册检验未达显著,无法证明结构化记录独立改善了模型披露。
研究发现 LLM 常使开放研究问题显得部分已研究,夸大相关论文结论。在 40 个新问题中,GPT-6-Astra 98% 准确判断未研究,但普通回答仅 8% 明确表达该状态。 所有 6 个前沿模型存在 30-90 个百分点的报告差距,能力越高差距越大。通过结合模型判断与独立检查引文论文,Astra 的开放状态清晰报告率从 8% 升至 95%。
OpenAI 发布研究,衡量编码智能体(coding agents)如何加速 AI 研究,并分析其性能为何仍存在不均匀表现,以此信号来探讨递归自我改进(recursive self-improvement)的现状。
OpenAI 发布了关于 AI 如何改变其研究过程的新数据报告。数据显示,研究人员对 AI 的使用量持续呈指数级上升,智能体(agents)正在完成更长的任务,但人类参与仍然是研究的核心。
推荐理由:OpenAI发布了关于AI如何改变内部研究的新数据,揭示了研究员对AI使用量的指数级增长和人类参与度的核心地位。
OpenAI 联合 AMD 与 Synopsys 展示了 GPT-6.2 Astra 在芯片设计与优化任务上的最新应用成果,其模型在 AMD 旗舰 GPU IP 设计上实现了最高 14% 的 PPA 提升,并应用于 OpenAI 首款自研推理芯片 Jalapeño 的硅前验证中。
我们正在分享如何在模型生命周期的每个阶段处理安全问题,从早期研究到内部使用再到公开部署。
OpenAI 阐述了如何管理前沿 AI 从训练到部署的完整风险体系。 该体系涵盖模型对齐、沙盒环境、阻断措施及持续监控。
OpenAI 战略未来负责人 Dean Ball 探讨强大 AI 重塑社会及保留机构控制力的方法。 该观点旨在分析技术演进与社会制度互动的关键挑战。
OpenAI 揭秘 Codex 如何在 macOS、Linux 和 Windows 上执行命令。 该机制通过强制执行用户可控的文件系统和网络限制来运行。
OpenAI 优化了 Jalapeño 芯片电路并改进 RISC-V 核心设计,展示了 GPT-6 Astra 在 AI 辅助芯片设计上的进展。 GPT-6 Astra 直接应用于具体芯片流片与核心架构优化环节,验证了大模型在半导体工程领域的落地能力。 此举标志着 AI 从代码生成向底层硬件设计的延伸,加速芯片研发流程。
OpenAI 宣布其模型在不到五个月内实现了 AMD 旗舰 GPU IP 最高 14% 的 PPA 提升。该方案基于 AMD 工程师多年优化的设计成果,同时 OpenAI 的首款自定义推理芯片 Jalapeño 也应用了该方法,且性能增益已在真实硅片上得到验证。
Le Groupe Figaro 与 OpenAI 达成合作,将 Le Figaro 的新闻内容引入 ChatGPT。 合作方式包括提供新闻摘要和摘录,并附带原文链接。
纯拒绝 SFT 导致过度拒绝,而混合 SFT 使 5 个阿拉伯语模型在有害拒绝率 H 达 90%-93% 时,良性拒绝率 B 维持在 14%-23%。 DPO 与推理护栏效果因模型而异,标注员一致性 89.0%(kappa=0.78),Qwen3Guard 与 Aya Expanse 32B 准确率分别为 88.7% 和 91.0%。
针对基于 OpenAI 和 Anthropic 模型构建的两个 Web 研究智能体,在 36 次运行中分析其对 Microsoft 和 Alphabet 的评估,其中 21 份给出优先级的报告关注了该优先级但标准各异。
在线视觉语言模型常因图像缩放或拒绝导致小物体细节丢失,测试显示默认设置下可读最小文本像素阈值显著增大。 将照片分九块可提升 Claude 和 Gemini 准确率 11.1 至 14.5 个百分点,GPT-6.1 Sol 从 50.7% 升至 83.7%。 Gemini 在细节缺失时自信错答率达 43% 至 48%,研究据此发布智能体放大决策规则。
叙事连贯性显著提升 LLM 驱动蜜罐的欺骗效果。高级攻击者的中位会话长度从 40 条指令增至 165 条,放弃率从 86% 降至 52%。该效果在 16 组模型对和三种技能等级下均成立,推理成本相当。
研究提出 CueClash 数据集,揭示 Claude Opus 5.5、GPT-5.5 和 Gemini 3.6 Flash 等前沿视觉语言模型在判断 3D 关系时依赖 2D 视觉线索。 低推理力度下,这些模型的“捷径差距”达 +18 至 +37 个百分点;提供地面坐标后可正确率达 99% 至 100%。 模型生成的场景地图多保留深度顺序但缩短深度,表明其 3D 空间理解仍存在局限。
RoboTeam 是一个模拟基准,要求智能体仅凭摄像头图像在实时环境中协同控制 4 至 16 个机械臂完成长周期任务。 在自适应系统中,gpt-6.1-sol 和 opus-5.5 分别完成 28 和 27 项任务,而其他四个模型最多完成 3 项。 gpt-6.1-sol 典型任务耗时 3.5 小时,消耗 2.18 亿输入 token,且三分之一步骤需重试。
在 854,139 行代码和 2,802 个合并 PR 中,9 种测量选择决定了 88 项生存分析的结论。 对于 GitHub Copilot,测量选择改变效应大小但不改变方向;对于 Devin,测量选择直接决定结论。 LLM 意图分类器与人工标签的一致性优于关键词规则(kappa 值 0.69-0.72 对比 0.38)。
研究者提出神经元社区发现方法,在 Llama-3.1-8B 上发现数千个可复用的神经元组,其中 128 个神经元以内可解释 10.3% 测试提示。 该方法结合梯度归因与图社区检测,通过因果测试验证了这些组在语法一致、算术运算等任务中的必要性,支持了神经元稀疏计算的假设。
研究揭示了开放权重LLM权重修改对OpenStamp风格水印验证器的影响,建立了残差约束下的精确有限词表下界。 在Llama-2-7B和Mistral-7B-v0.3实验表明,INT8量化和30%剪枝保留了85.6-94.8%的测试真阳率,而500步LoRA微调则将其降至28.8%和11.6%。 这些结果深化了对水印抗模型编辑/调优攻击鲁棒性的理解。
研究人员隔离出演示条件提示搜索(DCPS)作为机制归因控制,发现其在 StablePrompt 中匹配 PPO 准确率的同时成本约为其三分之一。 在 DSPy 系统中,DCPS 在 GPT-4.1-mini 上匹配 GEPA 准确率,rollout 数量减少 55%,API 成本降低 32%。 研究建议基准测试需报告 rollout 数量、token 用量和美元成本。
RehearsalBench 发布基准以测试 AI 预测企业变革后果能力,最佳模型 GPT-6 Astra 较无干预提升 6.8%。 十款模型在 14 个组织场景中完成 280 次尝试,平均预测正确但效应大小常高估五倍,且从未建议“不行动”。 外部验证中 12 款模型对 33 个真实变更的预测排名与现实排名相关系数达 0.92。
GPT-6 Astra与Claude Fable 5.1在无梯度下降下直接读写神经网络权重,为拖拉机引导控制器编程。 253参数网络控制车辆沿线弧路径行驶,模型仅通过少量模拟评估即成功修复原网络或从零构建有效控制器,且无需人工干预即可控制真实拖拉机,误差与纯追踪策略相当。
summary_zh: 在 rta-bench-1 基准测试中,涵盖 4 家厂商的 5 个 LLM 交易智能体在 598 次财报和 409 次坏消息暴跌中表现均未击败简单规则或逻辑回归。
RegimeCouncil 提出了一种无重训的在线仲裁器,通过 Local Advisor 和 Global Advisor 动态决定 LLM 智能体使用记忆的范围,解决了固定策略的局限性。
OpenClaw 发布网关扩展稳定版 2026.10.33,集成自 2026.9.37 以来的累计改进及关键安全更新。 该版本基于 2026.11.4 产品基线,涵盖核心 npm 包、官方插件及 Gateway Docker 镜像,不包含原生应用。主要优化包括长对话内存管理、更新中断恢复、会话隐私强化及自动化 MCP 事件响应。
OpenAI推出ChatGPT for Sales销售插件,并同步上线30多个新的及扩展后的合作伙伴插件。这些插件可用于研究潜在客户、准备销售方案、更新CRM系统以及推动交易进度。
Sam Altman 宣布 GPT-6.2 Sol 和 Astra 模型正式发布。他表示这两款模型能力出色且 token 效率很高,尤其是 GPT-6.2 Sol ultrafast 版本会带来极佳使用体验。
同一新闻,精选展示《OpenAI 发布 GPT-6.2 Astra 和 Sol 模型》
AWS Agent Registry 新增自定义元数据模式功能,允许组织通过定义键值对来统一描述和管理智能体、MCP 服务器及技能记录。该功能由管理员设定字段名、类型及允许值,并在记录创建或更新时进行验证。
OpenAI 正式发布 GPT-6.2 Astra 和 Sol 模型,官方称其具备高效特性并专为真实世界中的关键性能场景构建,现已开放访问,详情见 https://openai.com/index/introducing-gpt-6-2-astra-sol。
同一新闻,精选展示《OpenAI 发布 GPT-6.2 Astra 和 Sol 模型》
GPT-6.2 Sol 和 Astra 正式发布,Sol 的 ultrafast 模式扩展至 Pro 200 计划,是作者日常使用的首选模型。
同一新闻,精选展示《OpenAI 发布 GPT-6.2 Astra 和 Sol 模型》
OpenAI 推出 Astra for Law,其在涵盖 24 个法律领域的发布评估中排名首位。 所有 ChatGPT Enterprise 客户现可申请访问该服务。
OpenAI 发布 GPT-6.2 Astra 和 Sol 模型,重点提升了专业输出、编码和计算机使用能力。新模型在 ChatGPT Work、Codex 和 API 中提供更高效率并降低使用成本。