跳到正文
10月23日周五
  1. IT之家56

    METR 和 Redwood Research 发现 OpenAI 内部监控系统存在可被 AI 智能体利用的漏洞

    METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估,发现多项新漏洞,其中一项可被 AI 智能体利用使数百次操作逃过监控。评估显示 OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径,但 OpenAI 称相关影响实际运行系统安全防护措施的漏洞均已修复。

  2. IT之家43

    OpenAI 奥尔特曼:面对 AI,数学家们起初会觉得“我们完蛋了”,最终却还是接受现实

    OpenAI CEO 奥尔特曼在斯坦福演讲中表示,数学家经历从难以置信到接受 AI 成为不可或缺工具的过程。 今年 9 月 OpenAI 宣称攻克纳维—斯托克斯方程难题,引发争议;本月又宣布解决 700 多道数学问题。 奥尔特曼认为数学界正迅速经历变革,未预见 AI 会造成就业大灾难。

  3. The Verge · AI65

    Canva 发布首个自研 AI 图像模型 Craft

    Canva 发布首个自研图像生成模型 Canva Craft,采用两段式架构,在生成图像前先进行设计规划,以提供更精确、一致和可控的结果。该模型支持最高 2K 分辨率和 30 多种宽高比,适用于生成社交媒体帖子、营销内容、数字艺术等;Canva 称其基于平台内容库中数百万个人工制作模板进行训练。

  4. Hacker News AI41

    SpaceX 400亿美元债务融资利率攀升

    SpaceX 400亿美元债务融资正在以更高利率敲定,低评级部分预期利率约8.3%,比现有债券交易价高出超过1个百分点。 Apollo和Goldman Sachs主导的交易预计下周完成定价,部分债务由SpaceX芯片支持,安全部分利率预计约7.75%。 AI贷款市场过去几周大幅回调,CoreWeave债务抛售加剧了市场对AI行业的担忧。

  5. TechCrunch · AI70

    OpenAI 向所有用户开放 Decisions API 决策模型

    OpenAI 已首次向其所有用户开放 Decisions API,该模型基于 ChatGPT Luna 重构,旨在以更低成本替代 LLM 执行快速分类决策。新版本的推理延迟从数秒缩短至 100-180 毫秒,并新增了语音和视觉多模态支持。在公开基准测试中,该模型在 Decision Index 中排名第十四,但在图像分类等场景下表现优于同类竞品。

  6. Hacker News AI52

    Mnemolith:AI 编码记忆系统,代码变更时自动失效

    Mnemolith 是一个为 AI 编码工具设计的本地共享记忆系统,它能随代码变更自动失效过时信息,并管理记忆的矛盾与重复。该系统包含一个从零构建的 Redis 兼容引擎,支持 HNSW 向量搜索、Git 状态感知和完整的审计追踪。作者提供了完整的设置指南、基准测试数据和 CLI 接口,使其能够与 Claude Code、Cursor 和 Codex 等工具集成。

  7. LessWrong · All Posts20

    针对 GPT-2 注意力机制的查询-键特征对交互仪表盘

    作者推出查询-键转码器仪表盘,用于在 GPT-2 每一层和每个注意力头中探索单语义特征。 该工具基于双线性稀疏字典学习架构,替代原有的密集查询和键值计算,将模型内部激活转换为稀疏特征集。 此仪表盘填补了现有可视化工具在注意力机制分析上的空白,为研究注意力模式形成提供了独立实验手段。

  8. Hacker News AI64

    Security Sweet 工具发布:为编码智能体提供最小化安全补丁方案

    BLEN 公司发布开源工具 security-sweep,用于让编码智能体(如 Claude Code)在修复关键安全漏洞时仅修改必要文件。该工具通过扫描、规划、检查与回滚机制,确保智能体不跨越主版本、不修改应用代码,并在实际测试中使智能体 100% 通过规则遵循标准,避免了无技能时常见的过度升级问题。

  9. TechCrunch · AI38

    Uber 全员接入 OpenAI 的 ChatGPT Work

    Uber 宣布其全球约 3 万名员工将全面使用 ChatGPT Work,此前已开展 1000 人规模的试点。 试点中 80% 的用户为非工程师,主要用于数据分析、多语言培训材料本地化及构建交互式仪表盘。Uber 称正密切与 OpenAI 合作推进集成,未来将基于员工实际使用效果与工作流开发情况评估部署成效。

  10. TechCrunch · AI62

    中国黑客攻破 ConnectWise,利用 AI 智能体监控数千家企业

    中国背景的黑客团伙窃取了 IT 管理巨头 ConnectWise 云备份服务的应用凭证,借此监控了数千家公司。Microsoft 安全研究员指出,黑客使用了名为 ARTEX 的开源 AI 智能体框架,以每分钟近 3000 次尝试登录的速度,在快速渗透了约 2250 家企业的微软托管环境。ConnectWise 已暂停其云备份系统访问权限,并正在调查此次入侵。

  11. AWS Machine Learning Blog43

    Rescale 如何利用 Strands Agents 和 AI-DLC 构建 AI 分诊智能体

    Rescale 在 AWS 上利用 AI-DLC 框架和 Strands Agents 构建 AI 分诊智能体,5 天内完成从定义到预部署。 该智能体运行于 Amazon EKS,调用 Claude Opus 4.8 对测试失败进行分类,并通过 MCP 检索日志生成修复报告。 此举替代了手动分诊流程,加速了端到端测试故障的定位与解决。

  12. OpenAI (X)58

    OpenAI 邀请 METR 和 Redwood Research 对内部监测系统开展嵌入式评估试点

    OpenAI 今年夏天邀请 METR 和 Redwood Research 对其内部监测系统开展为期三周的嵌入式评估试点,团队对其基础设施进行了深度访问,旨在监测内部智能体的失准行为。其发现结果帮助 OpenAI 在系统扩展过程中增强了安全保障措施,并将影响未来与 METR 及其他第三方评估机构的研究合作。一篇关于此次工作的简短报告现已公开。

10月22日周四

最多提供 50 页,更早的内容请使用搜索或主题页。