跳到正文
11月19日周四
  1. LessWrong · All Posts38

    国会中哪些人重视 AI 生存风险?

    独立追踪网站 airiskrecord.org 统计了美国国会对 AI 生存风险(x-risk)的立场,发现下届众议院有 120 名成员和 42 名参议员对此持重视态度。该数据基于 Claude 辅助生成并经人工校验,涵盖 4 个相关安全议题,作者预计 2027 年通过国会行动的可能性较高。

11月18日周三
  1. arXiv · AI31

    诚实经纪人:公共评议如何向 AI 监管机构提供证据

    研究分析 40 项美国 AI 潜在法规及 2,664 份公共评议,发现商业提交者引用的证据数量少于政府、高校及公民社会组织,且被引研究预印本与同行评审文章比例接近持平。 分析发现自引现象在所有群体中普遍存在,但少数机构贡献了超过半数的自引,表明公共评议机制复杂,需关注不同利益相关者在政策制定中的角色差异。

11月17日周二
  1. arXiv · AI30

    模拟不同技能成年人评估加拿大国家 AI 战略

    研究者构建 3200 个生成式智能体模拟 PIAAC Cycle 2 受访者,发现成年人普遍支持加拿大“AI for All”战略但对其个人效益信心不足。 智能体指出差距源于参与成本和社区控制权有限,且数字设备使用率越低,预期获益感越弱。 研究提出“有条件支持”模式,建议 AI 素养政策应面向数字技能最弱的成年人设计。

  2. The Verge · AI41

    美国超大规模数据中心年耗电量超148个国家

    一项发表于 Nature Sustainability 的研究显示,美国403座超大规模数据中心年耗电量约82太瓦时,超过148个国家的年用电量总和,其中54%电力来自天然气和煤炭。 这些数据中心年排放约2570万吨二氧化碳,相当于丹麦的年碳足迹。研究指出,同一基础设施在不同电力结构下的环境影响差异巨大,例如怀俄明州煤电中心的碳排放是俄勒冈州水电中心的7倍。

11月16日周一
  1. 36氪82

    美联储报告拆解AI算力债务:6800亿美元发行、3万亿美元表外承诺,循环融资何解?

    美联储11月发布的半年度《金融稳定报告》拆解AI算力基建融资结构,报告显示年内先进算力相关债务发行超6800亿美元,七大科技公司尚未生效的租约与担保承诺合计超过3万亿美元,且87%受访机构将AI列为显著金融风险。

    推荐理由:基于美联储金融稳定报告,拆解了AI算力基建的融资结构和表外风险,并对比1990年代电信宽带周期。

  2. arXiv · AI21

    欧盟AI法案合规挑战:参与式研究揭示义务与技术要求的转化矛盾

    一项包含32名参与者的参与式工作坊研究揭示了欧盟AI法案在执行高风险AI系统时的核心矛盾。 研究发现监管义务向技术要求转化、人类监督落实及合规证据有效性之间存在紧张关系,具体表现为公平指标可能掩盖招聘歧视、时间压力削弱公共运输监督、患者群体变化使医疗系统性能证据失效。这些相互依存的挑战表明合规需持续关注AI系统的使用、治理与监控。

11月13日周五
  1. Hacker News AI91

    中国前沿 AI 模型带有出口管制 NVIDIA Blackwell GPU 的数字指纹

    Unemployment Labs 的取证分析表明,DeepSeek、Moonshot AI、MiniMax 和 Ant Group 发布的六款 2026 年模型在初始化阶段使用了受出口管制的 NVIDIA Blackwell 硬件。通过比对这些模型公开的权重与 PyTorch 随机数生成模式,研究人员识别出与 Blackwell 芯片架构匹配的数字指纹,相关置信度最高达到 1385 sigma。

    推荐理由:报告通过模型权重的随机数生成模式,提供了中国AI实验室访问受限硬件的技术证据,读者可据此理解相关指控的背景与验证方法。

11月12日周四
11月10日周二
  1. arXiv · AI29

    研究测量2023-2025年美国选举生成式AI内容使用与披露情况

    该研究基于12,977名美国候选人数据,发现可检测生成式AI内容在选举周期内显著增加,且高频使用未披露。 挑战者产生的AI内容显著多于现任者,且在实施AI披露或禁令的州份,候选人并未产生更少的AI内容。 当前州法律主要规范“实质性欺骗性”内容,研究指出需引入额外政策机制以提升选举透明度。

11月4日周三
  1. arXiv · AI23

    美国联邦AI清单中的“重写式问责”:从710到3611条记录的治理演变分析

    一项对2023-2025年三次美国联邦AI使用案例清单的研究发现,尽管条目总数从710激增至3611,留空率下降,但问责机制却经历了系统性“重写”。 研究通过ADMAPS框架对比分析指出,每次发布都通过重新划定问题范围、机构分类审查和答案覆盖这三种机制重塑了问责边界,且各机构对人工监督的记录极少。

11月2日周一
  1. Hacker News AI89

    中国商务部发布第48号公告,拟将前沿AI技术列入出口管制目录

    中国商务部与科技部发布2026年第48号公告,拟将包含23项AI技术的40项技术加入出口管制目录,并立即生效临时出口登记要求。管制范围覆盖前沿模型权重、智能体架构及AI网络攻防技术,其中模型若满足10^26 FLOPs训练算力、2万亿参数或全球公开评测前10等任一标准即受限制,但服务调用与轻量端侧部署不在管制范围内,本地部署受限模型则需获得出口许可。

10月28日周三
  1. arXiv · AI50

    AI 研发自动化可能引发智能爆炸的风险与应对

    多领域学者指出,AI 系统有望在未来几年内自动化大部分 AI 研发工作,这可能引发“智能爆炸”,将数年的技术进步压缩至数月。 智能爆炸可能极大加速 AI 效益,但也会带来超级 AI 失控及权力制衡被严重侵蚀的极端风险。 鉴于不确定性高且利害关系重大,政策制定者应紧急增强对 AI 研发自动化的可见性,并制定相关约束措施。

10月24日周六
  1. Seven Minute Feed61

    报告预测2027年中国AI算力将达880万H100等效芯片,65%依赖美国芯片

    一家华盛顿研究机构的报告预测,2027年中国实体的可用AI算力将从约460万增长至880万H100等效芯片,其中65%将基于美国设计的芯片运行。报告还指出,中国在算力部署上严重依赖离岸云服务。尽管北京正推动国产加速器,其AI基础设施建设仍高度依赖美国硬件,这意味着出口管制将持续发挥制约作用。

10月23日周五
  1. arXiv · AI22

    面向欧盟AI法案合规的AI风险本体:AIRO、VAIR及其与DPV的集成

    论文提出AI风险本体(AIRO)与AI风险词汇表(VAIR),用于满足欧盟AI法案对高风险AI系统的风险管理及文档记录要求。两者基于ISO/IEC 23894和ISO/IEC 22989标准开发,通过共识流程集成至数据隐私词汇表(DPV)。 集成工作扩展了DPV从数据到AI的覆盖范围,旨在促进标准复用并支持多监管合规场景。

10月14日周三
  1. arXiv · AI20

    EU AI Act 中高风险 AI 系统与通用模型在稳健性与网络安全方面的法律挑战

    研究指出,EU AI Act 中第 15 条与第 55 条关于高风险 AI 系统及通用模型在稳健性与网络安全方面的规定存在法律空白与不足。研究强调这些要求需对性能中断具备韧性,并结合机器学习最新进展评估实施难题,旨在为欧盟委员会制定协调标准及基准方法提供依据,以弥合法律术语与 ML 研究的差距。

  2. arXiv · AI41

    超级智能与AI竞赛的三重风险

    文章认为,中美为抢先研发AGI展开的AI竞赛存在三重风险:被对手反超、引发战争、以及将人类未来控制权让渡给远超人类智能的AI Agent,危及人类生存。 这种“先到达”的竞赛策略会引发安全实践和监管标准的底线竞争。文中指出中国目前并未表现出与美争夺超级智能的意图,因此美国应优先通过单边与合作努力提升AI安全,避免引发一场全人类都可能输掉的竞赛。

10月12日周一
  1. Hacker News AI42

    新报告称前沿AI训练的全球硬性暂停方案可行

    26名研究者发表首项学术研究,确认可行性并绘制实施路径,提出一项为期至少10年的国际共同验证的前沿AI训练暂停方案。 核心措施是停止生产AI训练芯片,逐步替换为无法用于训练新模型的“仅推理”芯片,现有AI产品使用不受影响,可防止新模型带来社会或安全破坏。 报告详细论述了通过供应链管控与芯片替换进行互验的机制,旨在克服信任障碍,并为科学保留现有AI带来的经济利益。

10月9日周五
  1. Hacker News AI87

    中国 AI 安全治理的现状:SemiAnalysis 深度分析

    SemiAnalysis 分析指出,中国政府在 AI 安全上采取了“速度优先”的监管模式。通过系统统计 9 家头部实验室 857 次模型发布,仅 3.6% 伴随已发布的安全评估结果,且 94.9% 的前沿发布缺乏任何安全披露。尽管官方文件提及前沿风险,但实际合规要求集中于应用层,未对训练算力设定强制义务。

    推荐理由:基于模型发布数据与安全声明的系统性梳理,为评估中美 AI 前沿安全治理差异提供了数据依据。

10月5日周一
  1. arXiv · AI25

    年度财报中的 AI 披露能否反映社会韧性:一项基于 LLM 的大规模分析

    研究者对 9,821 份英国上市公司财报应用 LLM 分类管道,发现 2020 至 2025 年间 AI 风险提及率从 2.8% 升至 41.2%。 分析显示实质性 AI 风险披露仅占 4.3%,且损害披露几乎缺失;AI 采用披露率升至 45.2%,供应商提及集中于 Microsoft。 数据表明当前财报对 AI 风险的披露在实质性和完整性上仍严重不足。