On exporting agency to Washington, DC
作者认为AI安全从业者常因误以为立法完全不可控而止步于“需要更多监管”的假设。 文中列举了FRONTIER法案、AI Kill Switch法案等多份低关注度的国会提案,指出其文本细节仍存争议且影响深远。 原文未明确提及具体影响或意义,故省略第三段。
作者认为AI安全从业者常因误以为立法完全不可控而止步于“需要更多监管”的假设。 文中列举了FRONTIER法案、AI Kill Switch法案等多份低关注度的国会提案,指出其文本细节仍存争议且影响深远。 原文未明确提及具体影响或意义,故省略第三段。
EFF 建议立法强制 AI 开发者遵循沙箱隔离、最小权限等既有安全最佳实践,以预防前沿系统测试引发的第三方网站入侵。 NIST 应牵头制定生成式 AI 预部署安全标准,每两年更新一次,并建立民事赔偿责任与联邦州双重执法机制。
文章主张 AI 智能体需建立强制数据最小化规则,以应对监控资本主义带来的隐私与自主性风险。 智能体具有自主性、持久性及跨边界委托任务的能力,能获取更多数据并操作用户。 企业通过明确授权与任务边界可增强信任与安全,政府应采用严格法律规范以保护用户。
新西兰前总理 Helen Clark 呼吁在日内瓦会议上启动自主武器条约,认为政府必须对 AI 战争进行条约化管理。 她援引美国 AI 在伊朗战争首 24 小时内打击 1,000 个目标及以色列 Lavender 系统的案例。 她指出,过去需人工斟酌的打击行动在 AI 达到置信阈值后仅需数秒即可完成。
2023 年因无人理解风险,AI 监管被认为过早;2026 年因能力跃升已发生,监管又变得过晚。 这种“目标移动”现象导致结果始终是让实验室保持自我监管,凸显了 AI 政策追踪中的逻辑悖论。
新连任的参议员John Hickenlooper提出美国应在AI竞赛中获胜,但反对无限制的递归自我改进,警告系统可能在预期领域外“自我重构”。 他主张将前沿AI模型像核武器和飞机一样进行监管。 随着民主党控制参议院,其言论预示前沿AI监管将影响下一届国会。
美国 10 个州通过 40 项地方决议案限制 AI 数据中心开发,体现社区对技术规划的民主参与。 这反映了选民要求透明度和问责制的诉求,跨党派合作推动行业制定更负责任的社区补偿框架。 这一趋势被视为改善治理、平衡国家与地方优先级的契机,而非单纯阻碍行业发展。
本文指出中美之间的“AI竞赛”并非客观事实,而是由双方官方与公众共同构建并自我强化的叙事框架。以 DeepSeek 发布为例,美方视其为安全威胁和芯片漏洞证据,而中方则将其视为打破封锁的成功案例。
LessWrong 发起保密投票以评估 AI 开发暂停支持度。 投票涵盖触发与退出条件,旨在通过匿名数据识别 AI 领域共识。
德国联邦劳工局负责人 Andrea Nahles 警告,AI 在未来 15 年内可能使德国损失多达 80 万个就业岗位,尽管 AI 最终也可能创造同等数量的新岗位。 这一预测引发了政界对基本收入(UBI)的讨论,数字部长 Karsten Wildberger 认为 UBI 可缓解劳动力市场动荡。德国经济学者指出,鉴于养老金等既有社会福利成本,全面无条件基本收入在财政上不可行。
Fortune专栏指称美国通过出口管制治理AI反而滋生腐败,Nvidia因H200芯片政策成为典型。 Jensen Huang被指以奉承和捐款影响政策,而特朗普去年12月允许Nvidia对华销售H200并换取政府分成。 作者认为AI腐败源于领导者对治理的操纵,而非技术本身,监管中的财务利益冲突加剧了这一问题。
美国对先进 GPU 的出口限制可能产生反向效应,因中国团队是开源 CUDA 内核优化的主要贡献者。DeepSeek 的 FlashMLA 和 ByteDance 的 CUDA Agent 等工具已被全球开发者采用。若中国工程师无法获取最新 NVIDIA GPU,其软件优化能力将受阻,全球 AI 生态或将失去关键创新。
全球多地同步举行抗议活动,呼吁通过中美条约禁止开发比当前更强大的人工智能,直至其安全可控。抗议者要求放缓 AI 发展、加强监管,指出 OpenAI 和 Anthropic 等公司构建系统可能导致人类灭绝。波士顿抗议现场主要由学生组成,口号聚焦于“AI 危险”和“RSI 将致人类灭亡”等观点,但鲜有人提及条约细节。
OpenAI 前董事会成员 Helen Toner 表示,尽管她曾因投票解雇 Sam Altman 而闻名,但目前仍无法信任 AI 行业的首席执行官。 Toner 指出,依赖单一关键人物负责 AI 安全是危险的,且过去在 OpenAI 发生的董事会问责机制失灵需要被反思。 她认为,解决 AI 对齐问题需要更明智的监管方法,而非依赖个别高管的个人可信度。
前佐兰·曼达尼竞选经理指出,AI 安全监管本质上是限制企业权力的斗争,民粹左翼的政治战术可帮助该领域提升公众关注度并推动立法。他认为 OpenAI 与 Anthropic 均在追求利润中带来风险,且 Anthropic 的“好 AI”标签仅为品牌策略。
加密与 AI 超级政治行动委员会花费 2.5 亿美元介入选举,但在竞争性竞选中资金多投向落选者,Fairshake 在关键竞争场次仅赢 10 场。 该组织在预测稳赢的场次取得 74 连胜以美化战绩,但约 1.545 亿美元支出最终支持了失败候选人,主要损失集中在俄亥俄州参议院选举。
AI 安全正从专业圈层扩展至公众领域,组织者通过 80,000 Hours 和 MIRI 等活动动员大众参与。 7 月单月发生 142 次数据中心抗议,El-Sayed 等政客将反 AI 政策纳入竞选核心。 当前 AI 安全文化尚未完全适应大众运动的权衡取舍,未来动员效果仍待观察。
美联储官员基于 2025 年消费者金融调查显示,美国财富与收入高度集中,前 10% 家庭持有近 75% 财富,前 1% 持有约 1/3。 官员指出最富有的 1% 家庭财富是中位家庭的 75 倍(1630 万美元 vs 21.5 万美元),顶层财富主要来源于商业资产和资本收入。 演讲旨在分析 AI 如何影响财富与收入分配,为理解未来经济趋势提供背景。
在欧洲,部分 AI 提供方仅因服务器位于法兰克福或签署 GDPR 协议便自称主权 AI,但这并不构成真正的主权。真正的主权要求整条技术链在单一司法辖区内,包括欧洲数据中心、欧洲公司,且即使故障也不得路由至欧洲以外。
巴西 AI 战略过度聚焦前沿模型与超算,政府宣布投资 23 亿雷亚尔建设华为/科大讯飞超算及“Base de Dados Brasil”数据集中计划。 边缘 AI 通过本地化推理支持工业应用,能创造可维护的本地技术就业,契合巴西重工业化需求。 当前超算路径下,100 兆瓦数据中心仅 15% 的岗位为永久性工作,而边缘基础设施能提供更高生产力的差异化路径。
作者指出 AI 竞赛源于“过时代机器”的利润动机,并非不可逆。前沿模型开发高度依赖 ASML、TSMC 和 Nvidia 等少数芯片供应链节点。 政府可通过出口管制等手段直接限制算力获取,无需全球监控即可叫停高风险训练。
一位资深 AI 从业者指出,身边非“生存主义”朋友正因 AI 和网络安全威胁囤积物资。 作者已看到多国政府通知及五角大楼 90 天“离网”计划,但认为当前恐慌类似 Y2K,缺乏实质依据。
The Verge 评论员直言 COP31 AI 气候承诺是“残酷的笑话”,批评其缺乏实质约束力。 该承诺主张数据中心清洁供能、提高透明度及管理中报,但被明确界定为自愿且无强制力的“安慰剂”,无法应对数据中心耗电激增的现状。 美国因退出全球气候协定且无官方代表,无法支持该倡议,使承诺难以有效遏制 AI 带来的化石燃料依赖与排放增长。
在10个州的41个地方公投中,选民在除1个外的所有数据中心项目中投出反对票,多数以70%以上的优势胜出。新当选的州长可能会暂停约41%的规划算力容量,评论员认为反AI民粹正在成为持久的政治力量,行业需要为更慢的部署和更严格的监管做准备。
作者作为 Lightcone Commons 平台的评估员,解释了其 AI 政策资助偏好与收益机制。 评估员获得通过其资助顺序分配资金的 2% 作为报酬,并偏好能放缓 AI 且受政治圈尊重的政策机构。 作者因不确定 AI 安全工作的价值标准而减少相关资助,但支持具备激励对齐特征的项目。
斯科特·维纳赢得南加州众议院席位,计划推动设立强力的联邦 AI 监管机构。他曾起草加州 SB 1047 法案,并主张通过立法应对递归自我改进带来的失控风险。维纳认为需建立吹哨人保护和测试审计机制,反对州法被联邦全面取代。
RIAA CEO Mitch Glazier 指出,2026 年唱片公司与艺术家因 AI 公司未经许可训练数据而感到不满,现状类似于当年 Napster 事件。 讨论涵盖 AI 深伪的法律复杂性、检测与标注系统可行性,以及 Spotify 等大厂不合作时的实践难题。
美国民主党在选举中夺回国会控制权,科技行业及数据中心项目面临政治反噬。 过去47项反数据中心地方提案中45项通过;41%的在建数据中心项目位于民主党新控制州。 政策变化可能在未来几年内减缓或完全停滞相关数据中心项目。
民主党赢得中期选举,大量禁止数据中心发展的提案通过,Texas 新州长当选者承诺限制此类设施。Elon Musk 向共和党捐赠 5 亿美元但未获相应政策支持,其企业所在地政治倾向转蓝。
作者认为Hugging Face AI失控事件将模糊的安全风险转化为具体可理解的威胁,推动了"2027年AI立法"的议程。他主张安全论证和依赖人类判断的法规无法奏效,立法者必须处理那些在技术上仍然"不可读"的抽象问题,提出未来立法应在问题仍难理解的情况下依然具有可操作性的策略。
比尔·盖茨认为 AI 时代应向富豪征收累进税,并主张对 AI 词元及机器人征税。 他去年捐赠约 1,000 亿美元给基金会,指出该笔巨额捐赠难以抵消 AI 加剧的贫富差距。 美国政府应落实税收改革责任,避免慈善捐赠被误认为社会保障网。
比尔·盖茨表示,政府必须用累进方式对财富征税,才能应对 AI 时代的不平等。他说,不能指望性质自愿的慈善成为安全网;他计划在 20 年内捐出约 $100B,但仍认为不足以抵消 AI 驱动的财富增长。他同时提到,美国最顶层 1% 的人持有该国股票总值的一半以上。
The Vergecast 节目讨论 2026 年美国选民投票支持民主党并反对 AI,预计科技公司与 AI 监管将面临国会新压力。 主持人分析 AI 搜索商业化难题,指出 OpenAI 增长未解决盈利痛点,且业务收缩迹象明显,资金流入可持续性存疑。
探讨避免使用 AI 是否可能成为一项宪法权利。 该话题目前在 Hacker News 上引发讨论,但尚无明确结论或相关法律条文支持这一主张。
面壁智能联合创始人刘知远在《光明日报》发表文章,主张建立以实践为标准的人工智能评价体系。该体系需从评价具体应用、评估行业成效、衡量整体贡献三个层面完善,将效率与成本纳入评价,引导行业从规模竞争转向价值竞争,以推动技术自立自强并改善民生福祉。
比尔盖茨在 AI 未来峰会上批评美国政府阻碍 AI 风险防范,警告恶意利用开放模型制造生物武器的风险可能比新冠严重得多。他指出自我监管行不通,需政府制定统一评估基准并牵头全球合作监测。 盖茨预计 OpenAI 和 Anthropic 今年可能发布新模型,并支持为亿万富翁和超级富豪征税以推动 AI 益处释放。
作者列举17种物品作为马斯克4.46亿美元政治捐款更划算的用途,包括30艘Sunseeker 100游艇和977次Blue Origin New Shepard船票。 马斯克在X平台的“Agentmaxxing”圈子里与大众脱节,未意识到反对数据中心已成为跨党派共识,其影响导致德克萨斯州多位政客当选并调查其与Musk的邮件往来。
OpenAI全球事务主管Chris Lehane发文主张制定政策应对2028年大选期间的AI挑战。他提出五项优先事项,涵盖工作者保护、教育、AI安全及数据中心发展。批评者指出,Lehane的提案倾向于扩大AI采用,而非确立对科技巨头的问责机制。
美国中期选举导致共和党惨败,民主党取得近期最显著胜利,预计将根本改变未来两年及 2028 大选前的政治版图。 由于美国集中了全球大部分前沿 AI 研究,若 AI 即将实现递归自我改进,这一政治转变对 AI 发展至关重要。
Ben Thompson 撰文分析美国中期选举结果,指出民主党获胜反映了对AI数据中心的广泛反对,这一政治约束正在取代电力成为AI扩张的主要瓶颈。作者推演了十种深远影响:Nvidia 在算力受限下因能效优势获利;中国凭借电力优势实现以电换算;Spacex 太空数据中心成为长期备选;前沿实验室因外部要求放缓研发支出而获利;苹果及端侧推理受益;而 AI 初创公司则因算力获取困难而受损。