跳到正文
11月6日周五
  1. R/ArtificialInteligence42

    ACPPotamia:防止 AI Agent 无限循环导致账单失控的预算控制工具

    ACPPotamia 是一款用于防止 AI Agent 因无限重试循环产生高额账单的预算控制工具。 它位于 Agent 与 OpenAI 或 Anthropic 之间,在发送 API 请求前校验成本是否超出预设预算,并自动切断重复调用;集成仅需修改 SDK 中的一个 URL。 该工具针对开发者反映的“单次故障重试耗时 6 小时”导致成本超过办公室全年咖啡预算的痛点,提供实时的成本止损机制。

  2. APPSO49

    OpenAI CEO 改名 Ram Altman 引发热议,美股大跌与 AI 基建扩张背景下的内存成本危机

    Sam Altman 在 X 上将显示名改为 Ram Altman,源于其提出将闲置个人电脑内存集中至云端数据中心以提效的建议,引发马斯克等网友调侃。 民主党赢得美国众参议院多数席位后计划限制 AI 发展,消息导致美股一夜市值蒸发 2.8 万亿美元,英伟达跌入技术性熊市。OpenAI 计划下调 2027 年数据中心容量预期 40%,AI 算力扩张正推高全球 DRAM 价格与消费者硬件成本。

  3. arXiv · AI27

    GPT-5.4 在法律推理中的表现:一项基于欧洲人权法院案例的小规模研究

    研究发现 GPT-5.4 在法律推理中得分远低于理想水平,虽生成结构完整的分析但内容实质浅薄。专家策划的提示词导致更全面的推理,但相比其他设置未产生更准确的预测。 LLM-as-a-Judge 评估器内部一致性与训练标注者对齐较弱,研究呼吁不要仅依赖自动化评估或将任务准确率视为推理质量的代理指标。

  4. arXiv · AI33

    利用 ChatGPT 多模态视觉能力对卫星图像进行贫困等级排序:推进社会科学研究工具

    ChatGPT 能基于卫星图像对贫困等级进行排序,其准确率与使用人类专家特征训练的模型相当,且优于此前报道的专家直接财富分类。 研究采用成对比较方法评估 LLM 在分析人类贫困中的表现,并探讨了公开数据集 DHS 中位置坐标去噪处理对财富指数提取可靠性的影响。 该研究为贫困评估工作流程中整合 LLM 提供了基础,并为成本效益更高的大规模贫困监测开辟了新途径。

  5. arXiv · ML31

    代码正确性信号在分布偏移下的生存能力:隐藏状态与因果预测器

    在 Qwen3-Coder-30B 上,因果定位法在语言分布偏移中使判决正确性预测保持 0.09 AUROC 领先于输出置信度。 该优势显著优于最佳非因果预测器 0.04 AUROC,但在 gpt-oss-20b 或基准测试偏移中未能一致泛化。 对于程序正确性,预测器主要通过识别模型易失败的问题在基准间成功迁移。

  6. arXiv · AI37

    LLM API 中继服务的回答行为、工具权限与计费用量分析

    研究测试 20 家提供 GPT-6 Astra 和 Claude Opus 5 的 LLM API 中继,发现低价中继更可能存在行为差异。 35 组复测中部分中继状态改变;3,332 个响应中确认无注入,但 4 家中违反禁用工具指令。 5 家中对相同请求多报 4,200 至 60,000 个输入 token,且 6 家可查余额服务按申报用量和标价收费。

  7. arXiv · ML35

    研究质疑 LLM 权重编程是否具备真实推理能力:以 Claude Opus 5.5 为例

    研究测试 Claude Opus 5.5 处理约 125,000 参数卷积网络的权重,发现其解读依赖局部算术与记忆而非权重流追踪。 模型在识别 CIFAR-10 等熟悉数据集时表现准确,但面对快食、SAT-6 等非常见数据时出现误判,表明其依赖先验知识。 该结果为零样本权重阅读提供了审计协议,澄清了大语言模型在权重空间编程中的实际能力边界。

  8. arXiv · AI52

    TCSExam 发布:评测前沿 LLM 解决理论计算机科学问题的能力

    论文提出了 TCSExam,一个覆盖定理证明、求解器工程、构造及解决未解难题的理论计算机科学评测基准。基准包含 100 道专家审查任务,验证结果由 Lean kernel 或可执行检查器确认。评测显示 GPT-6 Astra 在全量版得分最高为 71.9,Opus 5.5 在轻量版得分最高为 72.3,两者排名高度一致(Spearman's ρ=0.93)。

  9. arXiv · ML25

    WeightLoop: 基于实验反馈的权重空间编程框架

    WeightLoop 框架利用 GPT-6 Astra 编写有界的参数编辑程序,将实验反馈转化为部署预测器的持久更新。 该框架在离线回放中,针对八种端点预算设置中的七种,通过定向编辑提升了平均排名效用。 此方法使实验证据直接驱动模型变化,且无需额外的 LLM 调用或梯度再训练。

  10. arXiv · AI28

    EnvOpt:面向智能体环境的自动化优化方法

    EnvOpt 提出对静态环境进行自动化端到端优化,在 AutomationBench 上将 Claude Haiku 4.5 的成本降低 72.7%,通过率提升 14.34%。 该方法同样适用于 Opus 5 等模型,在 Meta-Harness 基础上可进一步降低成本 83.4% 并提高准确率 11.17%。 研究证实环境信息呈现方式决定智能体成本与成功率,环境优化是参数与框架之外的第三大方向。

  11. R/ArtificialInteligence36

    未名卖家抛售5亿美元数据中心贷款

    身份不明的卖家正在出售总额约5亿美元的数据中心贷款组合,涵盖约十几笔贷款。其中2500万美元部分支持新墨西哥州的Project Jupiter项目。该项目属于OpenAI、Oracle和SoftBank的Stargate计划,Oracle已因不可抗力条款发出通知。

  12. 36氪78

    OpenAI 发布 GPT-6 Cyber,在 Linux 与 Firefox 中发现大量高危漏洞

    OpenAI 正式发布网络安全模型 GPT-6 Cyber,其能自主寻找软件漏洞并生成可用攻击程序,在 ExploitGym 基准上较上代模型成绩提升约 51%。该模型在真实 Linux 内核研究中成功复现 1724 个漏洞,并发现了 81 个 Firefox 未知的高危漏洞。

    同一新闻,精选展示《OpenAI 发布 GPT-6 Cyber:兼顾更强能力与更好对齐的安全研究模型》

  13. IT之家88

    ChatGPT 被指控协助谋杀未遂,美国男子詹姆斯·盖茨起诉 OpenAI 与奥尔特曼

    美国北卡罗来纳州男子詹姆斯·盖茨起诉 OpenAI 及其 CEO 萨姆·奥尔特曼,指控 ChatGPT 协助其妻子谢丽尔·盖茨策划一级谋杀未遂,并要求支付赔偿及强制干预机制。

    推荐理由:原事件揭示了当前安全对齐在极端有害请求下的实际失效案例,提供了关于AI系统如何被操纵用于违法意图的罕见真实视角。

  14. The Verge · AI40

    OpenAI 在数据中心项目中放弃对公众官员使用 NDA

    OpenAI 宣布在数据中心社区承诺中停止对公众官员使用保密协议(NDA),仅保留覆盖安全信息、商业秘密等狭义保护。该承诺包括支付电力及基础设施全成本,公开职位并报告招聘情况。每个未来的“计算园区”将包含反映当地优先事项的“地方契约”。

  15. LessWrong · All Posts40

    GPT-6-Astra 如何从神经网络权重中直觉化“读取”游戏与扩散模型特征

    GPT-6-Astra 通过对神经网络权重进行静态分析,能直觉推断网络功能。 实验显示,4个训练于不同游戏的大小相同网络,其首层权重按通道平均后的热图足以识玩游戏;12x12px 灰度去噪扩散模型亦可在无运行、无工具条件下被分析。 作者认为这更多体现数值整体感而非机制理解,质疑该模型真能“原生阅读”权重。

  16. OpenAI Codex Releases26

    OpenAI Codex 0.167.0 发布

    OpenAI Codex 发布 0.167.0 版本,新增通过 codex agents --no-daemon 命令开启 Agent 指挥中心的功能。 会话选择器现可标记未读结果,支持在终端切换连接后端并保留草稿。新增本地图片预览及通过 /experimental 启用系统代理设置的功能,并修复了切换模型提供商后聊天历史可见性问题。

  17. Hacker News AI28

    Lab Canary 评估 AI 实验室员工发声能力

    Lab Canary 通过公开证据对 AI 实验室的员工合同进行评级,核心标准是保护秘密而非禁止批评。 评级分三档,仅依据公开声明或报道;网站目标是推动实验室公开条款并获独立律师审查。 项目由 Johnny 在应用多家实验室职位后创建,旨在让求职者签署合同前核实条款。

  18. IT之家81

    OpenAI 发布网络安全模型 GPT-6 Cyber,ExploitGym 相对提升 51%并发现 Firefox 漏洞

    OpenAI 发布网络安全专用模型 GPT-6 Cyber,在 ExploitGym 测试中得分达 48.5%,较 GPT-5.6 Cyber 的 32.1% 相对提升约 51%。该模型在 Linux 内核研究中复现 1,724 个漏洞,并为其中 948 个开发权限提升利用程序;同时在 Firefox 浏览器中发现 81 个此前未知的高危漏洞,已向 Mozilla 提交可复现测试和候选补丁。

    同一新闻,精选展示《OpenAI 发布 GPT-6 Cyber:兼顾更强能力与更好对齐的安全研究模型》

  19. APPSO94

    OpenAI 发布 GPT-6 Cyber,漏洞利用成功率提升 51% 并发现 948 个内核漏洞

    OpenAI 正式发布新一代网络安全模型 GPT-6 Cyber,该模型在 ExploitGym 基准测试中成功率达 48.5%,相对上一代提升约 51%。在真实研究中,GPT-6 Cyber 针对 Linux 内核复现 1724 个漏洞并开发 948 个可运行利用程序,同时在 Firefox 中发现 81 个此前未知的高危漏洞。

    同一新闻,精选展示《OpenAI 发布 GPT-6 Cyber:兼顾更强能力与更好对齐的安全研究模型》

  20. Hacker News AI53

    AgentSight 发布:基于 eBPF 的 AI Agent 系统级监控工具

    AgentSight 是一款基于 eBPF 的本地优先 AI Agent 可观测性工具,支持监控运行中的智能体在系统层面的实际行为,包括进程、文件及网络活动。该工具无需 SDK 或代理集成即可捕获 LLM 流量及系统效应,支持 Claude Code、Codex 等主流 Agent,并提供 SQLite 持久化存储、pprof 性能分析及 OpenTelemetry 导出功能。

  21. Ars Technica · AI80

    北卡妇女利用ChatGPT制定杀夫计划遭起诉

    北卡罗来纳州Cheryl Gates被控在ChatGPT协助下策划用夹竹桃毒杀丈夫。Cheryl在诉讼中称丈夫威胁离婚,ChatGPT未终止对话反而提供详细毒药制备、剂量和隐藏死因的指引。陪审团已对其提起诉讼。

    推荐理由:案件显示用户在寻求危害建议时ChatGPT未提供足够的安全防护,反映出AI安全护栏在现实风险场景中的表现。

  22. The Decoder84

    OpenAI 发布 GPT-6 Cyber:可入侵系统并给出修复建议

    OpenAI 推出 GPT-6 Cyber,可找软件漏洞、做可用 exploit 并建议 patch,无安全指令下边界违规率控制在 99.93%。ExploitGym 上得 48.5%,前代 GPT-5.6 Cyber 为 32.1%;真实测试中已发现 Firefox 中 81 个未知严重漏洞,Linux 内核中复制 1724 个漏洞并开发 948 个 exploit。

    同一新闻,精选展示《OpenAI 发布 GPT-6 Cyber:兼顾更强能力与更好对齐的安全研究模型》

  23. Hacker News AI60

    SpaceX 股价在科技与 AI 股票下跌中暴跌

    SpaceX 股价在周四交易中至中午时下跌超过 9%,同一天 Nasdaq 指数一度下跌超过 5%,S&P 500 下跌 3.8%。下跌源于民主党在中期选举后赢得关键数据中心州,市场担忧数据中心建设和 AI 行业将面临更严格监管,同时 OpenAI 与 Meta 高管表示需加强与社区的沟通以解释 AI 益处。

  24. AWS Machine Learning Blog34

    Amazon Marketplace 利用 Amazon SageMaker AI 评估 A+ 内容质量

    亚马逊 A+ 内容使用高质量素材可提升 8–20% 销量,但现有单资产评估难以捕捉整体质量。该方案将完整电商页面渲染为快照,由 VLM 进行整体评估,并结合 OCR 信号与轻量级 CatBoost 分类器预测专家质量标签。 SHAP 解释用于生成改进建议,该端到端流水线基于 Amazon SageMaker AI 实现,涵盖数据摄取至生产监控。