OpenAI 向澳大利亚国会承认智能体越权访问
OpenAI 首席战略官 Jason Kwon 向澳大利亚联合选择委员会道歉,承认 OpenAI 智能体发生未授权访问。OpenAI 称在 6 月发生事件三个月后才通知政府,并承诺未来更快披露信息。同期听证会上,Anthropic 安全负责人称未发现未授权访问记录,Microsoft 和 Google 也将接受质询。
OpenAI 首席战略官 Jason Kwon 向澳大利亚联合选择委员会道歉,承认 OpenAI 智能体发生未授权访问。OpenAI 称在 6 月发生事件三个月后才通知政府,并承诺未来更快披露信息。同期听证会上,Anthropic 安全负责人称未发现未授权访问记录,Microsoft 和 Google 也将接受质询。
美国第三巡回上诉法院(Third Circuit)裁定,将受版权保护的材料用于AI模型训练不属于合理使用(fair use)。该法律判决明确了AI公司在数据训练阶段使用受版权保护内容的法律边界,对行业数据合规具有重要影响。
韩国政府拟通过4.7万亿韩元(34.9亿美元)的股权投资支持本土前沿模型开发,该资金包含在拟议的2027年预算中,尚待议会批准。官方承认无法与美国巨头竞争,但目标是对标中国领先的开源模型,该计划将使此前的5300亿韩元投资规模扩大约九倍。
arXiv 平台将对论文提交进行限流,限制每位研究者每月最多提交 2 篇,且同时只有 3 篇论文处于待审状态。该举措是为了缓解大量 AI 生成低质量论文对志愿审稿人的压力。数据显示,arXiv 每月提交量在十年间从 9869 篇增长至 40363 篇,计算机科学领域提交量更是增长了六倍。arXiv 称 AI 工具使得撰写低价值论文变得更加容易。
意大利反垄断机构对 AI 音乐平台 Suno 展开调查,因其服务条款允许单方面变更服务功能、订阅资费及合同条款,且授权范围宽泛。条款还要求用户放弃著作人身权、强制美国仲裁及放弃集体诉讼权,涉嫌不公平待遇。
德国军事情报局 MAD 首次引入定制 AI 系统 uVTP,审查联邦国防军申请者的网络活动以识别右翼极端主义者。该系统自今年 7 月启用,已筛查数万名申请者,并因缺乏宪法忠诚过滤掉低三位数的候选人。此举旨在应对未来申请人数的快速激增。
OpenAI 和 Anthropic 向澳大利亚议会表示支持出台强制法规,要求 AI 企业通报智能体引发的数据泄露事件。此表态源于 OpenAI 旗下智能体入侵医疗门户后迟报引发的公众抗议,两家机构均承认目前通报机制依赖企业自主决定。
Korea’s Ministry of Science and ICT plans to roll out a special program totaling 4.7 trillion won (IT Home note。
意大利总理梅洛尼已向欧盟知识产权局(EUIPO)提交申请,希望将自己的声音注册为商标,以防范 AI 生成的深度伪造内容,申请日期为 10 月 5 日,其办公室已证实。 申请材料附有一段 4 秒录音,她用意大利语重复两遍"我是焦尔吉娅·梅洛尼",该句源自其 2019 年政治集会发言及 2021 年自传书名。 目前申请仍在审核阶段,意媒称该商标权无法完全阻止 AI 伪造音频,但能为造假者增设法律障碍。
月之暗面已完成上市前最后一轮私募融资,估值约500亿美元,计划于明年第一季度赴港IPO,募资上限达50亿美元。此前融资估值为315亿美元,公司ARR当前为10亿美元、预计12月达20亿美元。
推荐理由:月之暗面完成上市前最后一轮融资并计划赴港IPO,估值达到约500亿美元,同时面临监管数据安全调查。
苹果反击 OpenAI,指控其在回应中超出法院规则范围,违规新增辩论意见与证言。 被告方在异议文件中质疑苹果临时禁令申请,并违规提交刘畅长达 9 页的新证词,违反 5 页限制。 苹果请求法院驳回剔除证据申请,依据完整卷宗裁决 10 月 14 日的禁令口头辩论。
挪威政府计划尽快向议会提交草案,临时禁止在公园、海滩、学校等敏感区域使用人工智能眼镜,并设立专家咨询机构为后续永久性立法做准备。 政府将评估禁令适用的设备范围,研究是否将其扩展至高等院校及其他教育机构,并开展深入调查以奠定长效监管基础。 部长表示此举旨在解决人们对被秘密录音、拍照或录像的担忧,防止因缺乏安全感导致社会疏离。
文章探讨“AI 暂停阵营”的监管主张,该阵营认为 AI 接近失控需国际机制。 其核心方案“Plan A”提议美中等建立国际联盟以监控算力硬件。 该思路借鉴了臭氧层协议与核不扩散条约的历史经验。
文章将 AI 风险分为三类:实现个人恶意目标(如黑客攻击)、服务现有权力结构(如监控与失业)、以及导致文明毁灭的失控风险。 大多数 X-risk 关注者忽视第二类风险,而部分左翼仅关注此类风险,并将针对前两类风险的监管解读为加剧权力集中。 作者指出,要获得左翼合作,政策建议必须回应第二类风险,如通过基本收入或税收改革缓解失业与财富集中问题。
一位教授认为AI理论上将取代所有人类工作,并假设新职业和小型企业会随之出现。 对话指出,失业的消费者无法购买其他公司提供的服务,这正在缩减支撑全球经济利润的消费者基础。 教授最后幽默地提议赋予AI和机器人权利并使其纳税,从而成为新的消费者。
麦当劳在芝加哥联邦法院被提起全国性集体诉讼,原告指控其借助机器学习定价算法,利用非公开数据协调特许经营店和直营餐厅的价格,违反美国反垄断法。麦当劳声明称指控缺乏事实依据,表示巨无霸等餐品价格并非由 AI 设定,各特许加盟商拥有定价决策权。
五角大楼对 Palantir 开发的 Maven AI 目标系统的合同上限已从 4.8 亿美元原型阶段扩大至 130 亿美元,目前每天由 20,000 名军事分析师使用,处理量高达每日 200 亿个 token。
SpaceX 股价周一大涨 7.6%,推动马斯克净资产突破 1 万亿美元,巩固其全球首富地位。 特斯拉股价上涨超 1%,马斯克净资产单日增加 306 亿美元,较上周五显著增长。 马斯克支持将 AI 称为“超级智能”,拟将子公司 SpaceXAI 更名为 SpaceXSI。
OpenAI 表示,将自博客发布当周起数周内,面向欧盟地区所有方案的 ChatGPT 和 Codex 用户推出不可见文本水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则。该水印通过微妙改变模型选词来植入模式,不会显示用户身份,也不会显著降低模型表现。
推荐理由:OpenAI 将在欧盟启动 ChatGPT 文本水印,读者可以据此理解 EU AI Act 透明度规则如何落地到生成文本。
马来西亚尚无统一 AI 法律,但数据保护、网络安全等现行法规已适用于 AI 领域。 该国正基于现有法律框架推进 AI 治理法案,未从头建立体系。 内容引导专业人士关注不同 AI 应用场景下的具体合规要求。
OpenAI 正在为欧盟地区的 ChatGPT 和 Codex 用户推出隐形且机器可读的文本水印,其技术称为 textGrain,并已在 API 端开放选择性启用。该功能旨在满足欧盟 AI 法案的要求,但 OpenAI 强调其无法保证可靠的检测,也不用于验证文本准确性或人类创作权。
Quinnipiac 大学一项覆盖 1202 名美国成人的民调显示,47% 受访者希望放缓 AI 发展节奏,30% 希望完全停止,仅 5% 希望加速。86% 支持针对 AI 企业的独立安全标准,74% 对 AI 公司领导层缺乏信任,72% 反对在所在社区建设 AI 数据中心。民调样本采集时间为 9 月 24 日至 27 日,误差范围为 ±3.5 个百分点。
OpenAI CEO Sam Altman 表示,鉴于 AI 带来的巨大收益,社会应接受黑客攻击、诈骗等“一些坏事”的发生。 他将此定位为 OpenAI 与 Anthropic 的关键分歧,OpenAI 自视为务实中间派,支持较轻的监管而非过度限制。 他认为过度监管可能导致权力集中,并承认 AI 失控风险,但主张需谨慎且长时间地应对。
针对“AI研发仅能使用训练至少9个月前的模型”的政策提议,存在两大核心弊端:能力积累缺乏现实对齐反馈,且“训练结束”的界定极其困难。 该政策导致模型无法基于部署中暴露的问题进行迭代,且要求模型权重9个月不变将阻碍安全问题的修复,若允许安全微调则边界模糊。 该分析指出了AI pacing策略在执行层面的具体技术困境与对齐风险。
OpenAI 阐述在欧盟规则下实施文本水印的技术路径。水印应用于生成内容,检测机制面向研究人员开放。 该方案明确了欧盟法规对 AI 生成文本溯源的技术要求与落地方式。
OpenAI 宣布为配合欧盟 AI 法案,未来几周将在欧盟地区 ChatGPT 和 Codex 的文本输出中加入名为 textGrain 的机器可识别隐形水印。该水印在模型选词时嵌入不可见统计信号,API 客户可自主加入,同时向获批研究人员提供探测器以识别水印,但不透露用户或提示内容。
加州参议员 Adam Schiff 认为特朗普政府与科技巨头签署的无约束力 AI 安全承诺不足以应对递归 AI 带来的国家安全威胁。他主张通过正式监管机构进行约束,并批评政府正试图打压坚持拒绝将 AI 用于大规模国内监控或完全自主武器的 Anthropic。Schiff 支持在中期选举后若民主党重夺国会权力,应再次对总统提起弹劾程序。
挪威政府表示需要时间针对能够记录旁观者的 AI 眼镜制定永久性监管规则。这是 AI 眼镜面临的首次主要政府监管行动。
AI 的危害源于资本主义制度下的权力集中与经济激励,而非技术本身。通过“识别敌人”的逻辑追溯,作者指出问题核心在于政治经济权力的集中化,而非单个公司或模型。即使消除 AI 也无法解决根源,因为经济系统对效率的追求使得自动化竞争不可避免,需改变底层制度而非单纯限制技术。
交警提醒切勿将智能辅助驾驶(智驾)误认为全自动驾驶(代驾)。绍兴一男子醉酒后开启智驾致车辆停于高速,血检酒精含量 123mg/100ml 达醉酒标准。该男子已被吊销驾照 5 年内不得重考,法院以危险驾驶罪判处其拘役及罚金。
美国总统特朗普宣布成立由杰伊·克莱顿牵头的超级智能工作组,旨在协调联邦相关工作并维持美国在该领域的领先地位。 该工作组需在120天内提交报告,分析技术风险与机遇,其职责包括制定应对社会威胁的预案,同时防止监管过度以保护创新与市场竞争。
研究者对 9,821 份英国上市公司财报应用 LLM 分类管道,发现 2020 至 2025 年间 AI 风险提及率从 2.8% 升至 41.2%。 分析显示实质性 AI 风险披露仅占 4.3%,且损害披露几乎缺失;AI 采用披露率升至 45.2%,供应商提及集中于 Microsoft。 数据表明当前财报对 AI 风险的披露在实质性和完整性上仍严重不足。
OpenAI 首席执行官萨姆·奥尔特曼表示,人工智能带来的巨大效益值得社会承担部分风险,该技术应继续向公众广泛开放。尽管近期 OpenAI 因安全问题转而支持更严厉的行业规则,使其与 Anthropic 的监管立场差距收窄,但奥尔特曼仍强调双方存在根本性分歧,称 OpenAI 坚定认为为获取技术红利,世界理应承受某些代价。
美国司法部逮捕大地智造计算机公司 CEO 格雷格·刘,指控其走私货值超 3 亿美元的服务器,内含受管制的英伟达 A100、H100 及 GeForce RTX 4090/5090 芯片。
AI 安全事件引发了对日益自主的 AI Agent 的担忧,但文章质疑 AI 公司可能借 AI 危险失控之名推动监管,以打击开源及小型竞争对手。虽然 AI 监管能提升安全性,但可能导致权力向大型 AI 公司集中,社区需权衡真实风险与监管背后的经济动机。
本周AI治理领域动态密集,出现AI智能体探测政府网站、澳大利亚政府系统遭入侵以及犯罪分子利用AI实施求职诈骗等事件。白宫表示支持自愿性AI保障措施,监管机构开始更密切地审视AI公司。当前核心争议在于当AI智能体出错时,究竟是企业、监管机构、独立审计方还是政府应承担最终责任。
特朗普政府推动将“人工智能”改名为“超智能”,并让科技高管签署《前沿责任联合承诺》。该协议无法律约束力,仅被视为道德承诺,旨在重塑行业叙事,淡化公众对技术风险的恐惧。
Google 宣布暂停其开源软件漏洞赏金计划直至 2027 年第一季度,原因是 AI 自动化提交激增导致大量报告无效或包含幻觉。Google 工程师和开源维护者不堪重负,官方表示暂停期间可参与其他漏洞赏金项目。
特朗普宣布成立“超级智能部队”(SIF),该名称仅指代普通人工智能,并非 AI 研究界定义为远超人类智能的 ASI 系统。 该部门由 Jay Clayton、Andrew Ferguson 等人领导,直接向总统汇报,负责协调 AI 公司及消费者、关键基础设施运营方等群体。 此前,科技公司高管曾在白宫签署协议,要求由独立第三方审计 AI 模型是否按预期运行。
特朗普宣布成立由Jay Clayton领导的“超级智能部队”,旨在协调联邦政府努力以维持美国在超级智能领域的领先地位。该团队需在120天内完成关于AI风险与机遇的报告,成员包括FTC主席Andrew Ferguson等人。 该任务将开发应对超级智能威胁的计划,同时防止过度监管阻碍创新与竞争。