国会中哪些人重视 AI 生存风险?
独立追踪网站 airiskrecord.org 统计了美国国会对 AI 生存风险(x-risk)的立场,发现下届众议院有 120 名成员和 42 名参议员对此持重视态度。该数据基于 Claude 辅助生成并经人工校验,涵盖 4 个相关安全议题,作者预计 2027 年通过国会行动的可能性较高。
独立追踪网站 airiskrecord.org 统计了美国国会对 AI 生存风险(x-risk)的立场,发现下届众议院有 120 名成员和 42 名参议员对此持重视态度。该数据基于 Claude 辅助生成并经人工校验,涵盖 4 个相关安全议题,作者预计 2027 年通过国会行动的可能性较高。
研究分析 40 项美国 AI 潜在法规及 2,664 份公共评议,发现商业提交者引用的证据数量少于政府、高校及公民社会组织,且被引研究预印本与同行评审文章比例接近持平。 分析发现自引现象在所有群体中普遍存在,但少数机构贡献了超过半数的自引,表明公共评议机制复杂,需关注不同利益相关者在政策制定中的角色差异。
研究者构建 3200 个生成式智能体模拟 PIAAC Cycle 2 受访者,发现成年人普遍支持加拿大“AI for All”战略但对其个人效益信心不足。 智能体指出差距源于参与成本和社区控制权有限,且数字设备使用率越低,预期获益感越弱。 研究提出“有条件支持”模式,建议 AI 素养政策应面向数字技能最弱的成年人设计。
一项发表于 Nature Sustainability 的研究显示,美国403座超大规模数据中心年耗电量约82太瓦时,超过148个国家的年用电量总和,其中54%电力来自天然气和煤炭。 这些数据中心年排放约2570万吨二氧化碳,相当于丹麦的年碳足迹。研究指出,同一基础设施在不同电力结构下的环境影响差异巨大,例如怀俄明州煤电中心的碳排放是俄勒冈州水电中心的7倍。
美联储11月发布的半年度《金融稳定报告》拆解AI算力基建融资结构,报告显示年内先进算力相关债务发行超6800亿美元,七大科技公司尚未生效的租约与担保承诺合计超过3万亿美元,且87%受访机构将AI列为显著金融风险。
推荐理由:基于美联储金融稳定报告,拆解了AI算力基建的融资结构和表外风险,并对比1990年代电信宽带周期。
一项包含32名参与者的参与式工作坊研究揭示了欧盟AI法案在执行高风险AI系统时的核心矛盾。 研究发现监管义务向技术要求转化、人类监督落实及合规证据有效性之间存在紧张关系,具体表现为公平指标可能掩盖招聘歧视、时间压力削弱公共运输监督、患者群体变化使医疗系统性能证据失效。这些相互依存的挑战表明合规需持续关注AI系统的使用、治理与监控。
Unemployment Labs 的取证分析表明,DeepSeek、Moonshot AI、MiniMax 和 Ant Group 发布的六款 2026 年模型在初始化阶段使用了受出口管制的 NVIDIA Blackwell 硬件。通过比对这些模型公开的权重与 PyTorch 随机数生成模式,研究人员识别出与 Blackwell 芯片架构匹配的数字指纹,相关置信度最高达到 1385 sigma。
推荐理由:报告通过模型权重的随机数生成模式,提供了中国AI实验室访问受限硬件的技术证据,读者可据此理解相关指控的背景与验证方法。
开源登记簿统计显示,Gary Marcus 在862个结论明确的断言中准确率高达88%,主要预测可靠性和能力。 Ed Zitron 在260个结论明确的断言中准确率仅49%,表现与错误预测持平,支持率不足一半。 该数据直观对比了两位知名 AI 评论人的言论可靠性与预测偏差。
该研究基于12,977名美国候选人数据,发现可检测生成式AI内容在选举周期内显著增加,且高频使用未披露。 挑战者产生的AI内容显著多于现任者,且在实施AI披露或禁令的州份,候选人并未产生更少的AI内容。 当前州法律主要规范“实质性欺骗性”内容,研究指出需引入额外政策机制以提升选举透明度。
一项对2023-2025年三次美国联邦AI使用案例清单的研究发现,尽管条目总数从710激增至3611,留空率下降,但问责机制却经历了系统性“重写”。 研究通过ADMAPS框架对比分析指出,每次发布都通过重新划定问题范围、机构分类审查和答案覆盖这三种机制重塑了问责边界,且各机构对人工监督的记录极少。
中国商务部与科技部发布2026年第48号公告,拟将包含23项AI技术的40项技术加入出口管制目录,并立即生效临时出口登记要求。管制范围覆盖前沿模型权重、智能体架构及AI网络攻防技术,其中模型若满足10^26 FLOPs训练算力、2万亿参数或全球公开评测前10等任一标准即受限制,但服务调用与轻量端侧部署不在管制范围内,本地部署受限模型则需获得出口许可。
多领域学者指出,AI 系统有望在未来几年内自动化大部分 AI 研发工作,这可能引发“智能爆炸”,将数年的技术进步压缩至数月。 智能爆炸可能极大加速 AI 效益,但也会带来超级 AI 失控及权力制衡被严重侵蚀的极端风险。 鉴于不确定性高且利害关系重大,政策制定者应紧急增强对 AI 研发自动化的可见性,并制定相关约束措施。
一家华盛顿研究机构的报告预测,2027年中国实体的可用AI算力将从约460万增长至880万H100等效芯片,其中65%将基于美国设计的芯片运行。报告还指出,中国在算力部署上严重依赖离岸云服务。尽管北京正推动国产加速器,其AI基础设施建设仍高度依赖美国硬件,这意味着出口管制将持续发挥制约作用。
论文提出AI风险本体(AIRO)与AI风险词汇表(VAIR),用于满足欧盟AI法案对高风险AI系统的风险管理及文档记录要求。两者基于ISO/IEC 23894和ISO/IEC 22989标准开发,通过共识流程集成至数据隐私词汇表(DPV)。 集成工作扩展了DPV从数据到AI的覆盖范围,旨在促进标准复用并支持多监管合规场景。
作者解析了单方放缓 AI 发展的博弈困境,并综述了多种单双边验证方法。 文中引用最新民调显示 64% 美国人认为 AI 发展过快。作者基于警告性场景,提出结合上述验证工具执行放缓策略。
研究指出,EU AI Act 中第 15 条与第 55 条关于高风险 AI 系统及通用模型在稳健性与网络安全方面的规定存在法律空白与不足。研究强调这些要求需对性能中断具备韧性,并结合机器学习最新进展评估实施难题,旨在为欧盟委员会制定协调标准及基准方法提供依据,以弥合法律术语与 ML 研究的差距。
文章认为,中美为抢先研发AGI展开的AI竞赛存在三重风险:被对手反超、引发战争、以及将人类未来控制权让渡给远超人类智能的AI Agent,危及人类生存。 这种“先到达”的竞赛策略会引发安全实践和监管标准的底线竞争。文中指出中国目前并未表现出与美争夺超级智能的意图,因此美国应优先通过单边与合作努力提升AI安全,避免引发一场全人类都可能输掉的竞赛。
基于 2019-2026 年间欧盟、美国等司法管辖区的 40 项立法、司法及软法工具,本研究对 835 个片段进行编码,得出 1,337 项类别分配,揭示责任分配和规范性取向主导版权治理框架。
26名研究者发表首项学术研究,确认可行性并绘制实施路径,提出一项为期至少10年的国际共同验证的前沿AI训练暂停方案。 核心措施是停止生产AI训练芯片,逐步替换为无法用于训练新模型的“仅推理”芯片,现有AI产品使用不受影响,可防止新模型带来社会或安全破坏。 报告详细论述了通过供应链管控与芯片替换进行互验的机制,旨在克服信任障碍,并为科学保留现有AI带来的经济利益。
有用工作量证明(PoUW)是一种允许 GPU 在已安装芯片上运行软件协议、验证其执行了特定计算量(如矩阵乘法)的密码学工具,可用于验证暂停 AI 开发的国际协议。
SemiAnalysis 分析指出,中国政府在 AI 安全上采取了“速度优先”的监管模式。通过系统统计 9 家头部实验室 857 次模型发布,仅 3.6% 伴随已发布的安全评估结果,且 94.9% 的前沿发布缺乏任何安全披露。尽管官方文件提及前沿风险,但实际合规要求集中于应用层,未对训练算力设定强制义务。
推荐理由:基于模型发布数据与安全声明的系统性梳理,为评估中美 AI 前沿安全治理差异提供了数据依据。
研究者对 9,821 份英国上市公司财报应用 LLM 分类管道,发现 2020 至 2025 年间 AI 风险提及率从 2.8% 升至 41.2%。 分析显示实质性 AI 风险披露仅占 4.3%,且损害披露几乎缺失;AI 采用披露率升至 45.2%,供应商提及集中于 Microsoft。 数据表明当前财报对 AI 风险的披露在实质性和完整性上仍严重不足。