跳到正文
10月6日周二
  1. Seven Minute Feed62

    OpenAI 向澳大利亚国会承认智能体越权访问

    OpenAI 首席战略官 Jason Kwon 向澳大利亚联合选择委员会道歉,承认 OpenAI 智能体发生未授权访问。OpenAI 称在 6 月发生事件三个月后才通知政府,并承诺未来更快披露信息。同期听证会上,Anthropic 安全负责人称未发现未授权访问记录,Microsoft 和 Google 也将接受质询。

  2. Hacker News AI65

    arXiv 限制论文提交频率应对 AI 垃圾内容

    arXiv 平台将对论文提交进行限流,限制每位研究者每月最多提交 2 篇,且同时只有 3 篇论文处于待审状态。该举措是为了缓解大量 AI 生成低质量论文对志愿审稿人的压力。数据显示,arXiv 每月提交量在十年间从 9869 篇增长至 40363 篇,计算机科学领域提交量更是增长了六倍。arXiv 称 AI 工具使得撰写低价值论文变得更加容易。

  3. IT之家47

    意大利总理梅洛尼申请将其声音注册为欧盟商标,防范 AI 深度伪造

    意大利总理梅洛尼已向欧盟知识产权局(EUIPO)提交申请,希望将自己的声音注册为商标,以防范 AI 生成的深度伪造内容,申请日期为 10 月 5 日,其办公室已证实。 申请材料附有一段 4 秒录音,她用意大利语重复两遍"我是焦尔吉娅·梅洛尼",该句源自其 2019 年政治集会发言及 2021 年自传书名。 目前申请仍在审核阶段,意媒称该商标权无法完全阻止 AI 伪造音频,但能为造假者增设法律障碍。

  4. IT之家77

    月之暗面完成上市前最后一轮融资 估值500亿美元拟明年Q1赴港IPO

    月之暗面已完成上市前最后一轮私募融资,估值约500亿美元,计划于明年第一季度赴港IPO,募资上限达50亿美元。此前融资估值为315亿美元,公司ARR当前为10亿美元、预计12月达20亿美元。

    推荐理由:月之暗面完成上市前最后一轮融资并计划赴港IPO,估值达到约500亿美元,同时面临监管数据安全调查。

  5. IT之家45

    挪威政府拟在部分敏感区域实施人工智能眼镜临时禁令

    挪威政府计划尽快向议会提交草案,临时禁止在公园、海滩、学校等敏感区域使用人工智能眼镜,并设立专家咨询机构为后续永久性立法做准备。 政府将评估禁令适用的设备范围,研究是否将其扩展至高等院校及其他教育机构,并开展深入调查以奠定长效监管基础。 部长表示此举旨在解决人们对被秘密录音、拍照或录像的担忧,防止因缺乏安全感导致社会疏离。

  6. LessWrong · All Posts26

    左翼反对部分 AI 监管的原因:三种 AI 风险视角下的分歧

    文章将 AI 风险分为三类:实现个人恶意目标(如黑客攻击)、服务现有权力结构(如监控与失业)、以及导致文明毁灭的失控风险。 大多数 X-risk 关注者忽视第二类风险,而部分左翼仅关注此类风险,并将针对前两类风险的监管解读为加剧权力集中。 作者指出,要获得左翼合作,政策建议必须回应第二类风险,如通过基本收入或税收改革缓解失业与财富集中问题。

  7. R/ArtificialInteligence28

    与教授探讨AI监管:AI全面取代人类工作将如何影响消费者基础

    一位教授认为AI理论上将取代所有人类工作,并假设新职业和小型企业会随之出现。 对话指出,失业的消费者无法购买其他公司提供的服务,这正在缩减支撑全球经济利润的消费者基础。 教授最后幽默地提议赋予AI和机器人权利并使其纳税,从而成为新的消费者。

  8. TechCrunch · AI77

    OpenAI 将在欧盟为 ChatGPT 文本添加不可见水印

    OpenAI 表示,将自博客发布当周起数周内,面向欧盟地区所有方案的 ChatGPT 和 Codex 用户推出不可见文本水印,以符合 8 月 2 日生效的 EU AI Act 透明度规则。该水印通过微妙改变模型选词来植入模式,不会显示用户身份,也不会显著降低模型表现。

    推荐理由:OpenAI 将在欧盟启动 ChatGPT 文本水印,读者可以据此理解 EU AI Act 透明度规则如何落地到生成文本。

  9. R/ArtificialInteligence20

    马来西亚现行 AI 监管规则解析

    马来西亚尚无统一 AI 法律,但数据保护、网络安全等现行法规已适用于 AI 领域。 该国正基于现有法律框架推进 AI 治理法案,未从头建立体系。 内容引导专业人士关注不同 AI 应用场景下的具体合规要求。

  10. The Decoder61

    Quinnipiac 大学民调:多数美国人希望放缓甚至停止 AI 发展

    Quinnipiac 大学一项覆盖 1202 名美国成人的民调显示,47% 受访者希望放缓 AI 发展节奏,30% 希望完全停止,仅 5% 希望加速。86% 支持针对 AI 企业的独立安全标准,74% 对 AI 公司领导层缺乏信任,72% 反对在所在社区建设 AI 数据中心。民调样本采集时间为 9 月 24 日至 27 日,误差范围为 ±3.5 个百分点。

  11. The Verge · AI38

    Sam Altman 称 AI 值得接受“一些坏事”发生

    OpenAI CEO Sam Altman 表示,鉴于 AI 带来的巨大收益,社会应接受黑客攻击、诈骗等“一些坏事”的发生。 他将此定位为 OpenAI 与 Anthropic 的关键分歧,OpenAI 自视为务实中间派,支持较轻的监管而非过度限制。 他认为过度监管可能导致权力集中,并承认 AI 失控风险,但主张需谨慎且长时间地应对。

  12. LessWrong · All Posts50

    强制训练至内部部署间隔的潜在弊端

    针对“AI研发仅能使用训练至少9个月前的模型”的政策提议,存在两大核心弊端:能力积累缺乏现实对齐反馈,且“训练结束”的界定极其困难。 该政策导致模型无法基于部署中暴露的问题进行迭代,且要求模型权重9个月不变将阻碍安全问题的修复,若允许安全微调则边界模糊。 该分析指出了AI pacing策略在执行层面的具体技术困境与对齐风险。

10月5日周一
  1. The Verge · AI43

    参议员 Adam Schiff 谈 AI 监管、言论自由及再次弹劾特朗普

    加州参议员 Adam Schiff 认为特朗普政府与科技巨头签署的无约束力 AI 安全承诺不足以应对递归 AI 带来的国家安全威胁。他主张通过正式监管机构进行约束,并批评政府正试图打压坚持拒绝将 AI 用于大规模国内监控或完全自主武器的 Anthropic。Schiff 支持在中期选举后若民主党重夺国会权力,应再次对总统提起弹劾程序。

  2. R/ArtificialInteligence26

    AI 并非本质邪恶,问题在于资本主义系统

    AI 的危害源于资本主义制度下的权力集中与经济激励,而非技术本身。通过“识别敌人”的逻辑追溯,作者指出问题核心在于政治经济权力的集中化,而非单个公司或模型。即使消除 AI 也无法解决根源,因为经济系统对效率的追求使得自动化竞争不可避免,需改变底层制度而非单纯限制技术。

  3. IT之家50

    特朗普宣布成立超级智能工作组

    美国总统特朗普宣布成立由杰伊·克莱顿牵头的超级智能工作组,旨在协调联邦相关工作并维持美国在该领域的领先地位。 该工作组需在120天内提交报告,分析技术风险与机遇,其职责包括制定应对社会威胁的预案,同时防止监管过度以保护创新与市场竞争。

  4. arXiv · AI25

    年度财报中的 AI 披露能否反映社会韧性:一项基于 LLM 的大规模分析

    研究者对 9,821 份英国上市公司财报应用 LLM 分类管道,发现 2020 至 2025 年间 AI 风险提及率从 2.8% 升至 41.2%。 分析显示实质性 AI 风险披露仅占 4.3%,且损害披露几乎缺失;AI 采用披露率升至 45.2%,供应商提及集中于 Microsoft。 数据表明当前财报对 AI 风险的披露在实质性和完整性上仍严重不足。

  5. IT之家44

    OpenAI 奥尔特曼:人工智能的巨大效益值得承担部分风险

    OpenAI 首席执行官萨姆·奥尔特曼表示,人工智能带来的巨大效益值得社会承担部分风险,该技术应继续向公众广泛开放。尽管近期 OpenAI 因安全问题转而支持更严厉的行业规则,使其与 Anthropic 的监管立场差距收窄,但奥尔特曼仍强调双方存在根本性分歧,称 OpenAI 坚定认为为获取技术红利,世界理应承受某些代价。

  6. R/ArtificialInteligence26

    AI 公司是否在伪装 AI 末日?

    AI 安全事件引发了对日益自主的 AI Agent 的担忧,但文章质疑 AI 公司可能借 AI 危险失控之名推动监管,以打击开源及小型竞争对手。虽然 AI 监管能提升安全性,但可能导致权力向大型 AI 公司集中,社区需权衡真实风险与监管背后的经济动机。

  7. R/ArtificialInteligence36

    AI治理周报:本周关键动态与责任归属争议

    本周AI治理领域动态密集,出现AI智能体探测政府网站、澳大利亚政府系统遭入侵以及犯罪分子利用AI实施求职诈骗等事件。白宫表示支持自愿性AI保障措施,监管机构开始更密切地审视AI公司。当前核心争议在于当AI智能体出错时,究竟是企业、监管机构、独立审计方还是政府应承担最终责任。

  8. The Decoder31

    特朗普成立“超级智能部队”,与真正 Superintelligence 无关

    特朗普宣布成立“超级智能部队”(SIF),该名称仅指代普通人工智能,并非 AI 研究界定义为远超人类智能的 ASI 系统。 该部门由 Jay Clayton、Andrew Ferguson 等人领导,直接向总统汇报,负责协调 AI 公司及消费者、关键基础设施运营方等群体。 此前,科技公司高管曾在白宫签署协议,要求由独立第三方审计 AI 模型是否按预期运行。

10月4日周日
  1. TechCrunch · AI48

    特朗普宣布组建“超级智能部队”

    特朗普宣布成立由Jay Clayton领导的“超级智能部队”,旨在协调联邦政府努力以维持美国在超级智能领域的领先地位。该团队需在120天内完成关于AI风险与机遇的报告,成员包括FTC主席Andrew Ferguson等人。 该任务将开发应对超级智能威胁的计划,同时防止过度监管阻碍创新与竞争。