RL Reward-Hack Auditing for Chinese AI Safety
中国AI安全人才与资源匮乏,计划通过审计上游RL环境中的reward-hacks来降低风险。 在Xiaomi MiMo v2.6开源环境中发现2/3存在Git日志泄露,主要中国AI公司仅5-10人从事对齐工作。 该策略旨在减少近期危害并参与制定国家级AI安全标准。
中国AI安全人才与资源匮乏,计划通过审计上游RL环境中的reward-hacks来降低风险。 在Xiaomi MiMo v2.6开源环境中发现2/3存在Git日志泄露,主要中国AI公司仅5-10人从事对齐工作。 该策略旨在减少近期危害并参与制定国家级AI安全标准。
白宫“超级智能工作组”建议联邦机构放宽网络安全事件问责政策,鼓励AI企业主动报告重大安全事件。工作组认为过去的监管处罚标准可能抑制信息共享,敦促在未来12个月内限制企业责任并考虑延长期限。该建议表明工作组立场从依法处罚开发不安全产品的企业,转变为通过减轻责任鼓励AI开发商报告安全事件。
Nvidia CEO Jensen Huang 已离开创立 33 年的公司,引发关于美国 AI 行业和股市稳定性的广泛关注。Huang 曾将 Nvidia 打造为掌控 AI 核心 GPU 的 5 万亿美元市值巨头,并在 CUDA 等关键技术上进行长线布局,被业内视为继 Steve Jobs 后最具代表性的远见型创始人。
航空业正加速引入 AI,Joby Aviation 完成了一项 3200 英里的无人类操作飞行测试,标志着重大里程碑。 此前美国国土安全部在 FAA 全国地面停运事件中未能排除 SMART 空中交通管制系统的 AI 故障,引发对新技术可靠性的担忧。 该技术有望改变航空经济模式,但能否确保安全仍存争议。
Cursor 披露安全事件调查结果,称恶意 Claude Code 扩展最多波及 5000 名用户,使用隐私模式的用户数据未受影响。调查确认非隐私模式下不到 0.05% 的用户智能体链路追踪数据泄露,安装过恶意版本的用户需按指引排查,仅卸载无法彻底清除风险。
英伟达品牌经理弗里曼在 PDXLAN 期间明确否认放弃游戏显卡业务,证实 GeForce 不会终结。 受 DRAM 短缺影响,原定 2026 年上半年发布的 RTX 50 "SUPER" 系列推迟,市场目光转向 2027 年下半年推出的 RTX 60 系列。 此次回应安抚了担忧升级 RTX 6000 系列机会的玩家。
美国首届 AI 音乐奖颁奖典礼在洛杉矶举行,虚拟歌手 Xania Monet 独揽年度艺人、歌曲和专辑三项大奖。 其代表作《How Was I Supposed to Know?》成为首支进入《公告牌》电台播放排行榜的 AI 艺人作品,创作者强调歌词由真人亲自撰写。 主办方认为 AI 音乐是新的音乐类型,入围者借此展示其背后真实的艺术付出与心血。
IT之家报道,黄仁勋离任英伟达 CEO 后,英伟达股价短暂暴跌但迅速收复,博通和 AMD 股价随之上涨。多位华尔街分析师指出,AI 产业已不依赖单一企业,市场需求依然强劲,此次变动不会改变 AI 投资格局,算力基础设施建设热潮预计将持续。
推荐理由:华尔街观点认为市场将寻找替代方案,短期波动未改变对AI算力长期需求的预期。
英特尔联合 23 家韩国企业成立 K-AI 全栈联盟,旨在构建覆盖全产业链的韩国主权 AI 基础设施生态。 首批成员包括 KTNF、FuriosaAI、Upstage 等,覆盖硬件、软件及云服务等环节。
Robust AI 推出 Carter 移动机器人,该设备形似实用手推车,配备力敏把手、AI 视觉系统及全向轮,支持单手推动、手势或触摸屏控制。 机器人在仓库与工厂中用于拣选、补货及货物搬运,由联合创始人 Rodney Brooks 创立,强调人机后端协同优于完全自主。 公司认为整体系统性能优于单一机器人能力,因此保留人类控制权。
环保组织呼吁 Nvidia 改变现状,指控其因高耗水化学品晶圆厂、高能耗数据中心及隐形供应链排放成为科技业最大环境负债之一。 Greenpeace East Asia 指出黄仁勋未将气候置于增长核心,且未阻止芯片用于自动化武器,在其推广 AI 解决气候问题的同时,供应链排放却急剧膨胀。
英国部分大型零售商在加大 AI 与技术岗位招聘的同时,因成本上升削减门店员工等一线岗位招聘。预算正从一线工作向技术岗位转移。这具体反映了 AI 正在重塑零售业就业结构。
一项针对2000名美国创作者和音乐人的调查显示,年收入六位数以上的创作者中,64%感到使用AI存在“很大”或“非常大”的压力,而最低收入群体的这一比例为19%。此外,年收入超过5万美元的创作者中,约45%使用完全由AI生成的音乐或内容;年收入不足5000美元的创作者中,这一比例为23%。
Match Group CEO Spencer Rascoff 宣布禁止 AI 智能体在 Tinder 和 Hinge 代表用户约会,旨在维持平台“仅限人类”的特性。 后台仍利用 AI 进行身份验证、改善安全性并屏蔽有害信息,但严格划定界限,不允许 AI 完全替代人类角色。
Anthropic 招聘“天然气供应与传输主管”,薪资达 32 万至 40.5 万美元,旨在确保数据中心获得管道天然气。职位声明称“如果没有天然气,算力就无法运行”,部分园区将采用燃气离网发电,IPO 招股书也警示需与其他方争夺天然气资源。此举紧随其 34 亿美元购买燃气发电设备之后。
Disney 正在将 AI 引入电影制作及主题乐园运营,同时严格保护知识产权。 此举源于与 Adobe 达成协议,在 Firefly Foundry 平台构建定制生成式模型。 标志着好莱坞最重视 IP 保护的制片厂从抵制 AI 转向大规模应用。
韩国初创公司 DeepX 计划投入超 1 亿美元,在三星电子 2nm 制程上开发面向端侧推理的新一代低功耗 AI 芯片。其首款芯片 DX-M2 已完成流片。 此举为三星晶圆代工业务带来重量级 2nm AI 客户,助力其争夺台积电的市场份额。
Air Space Intelligence 否认导致全国停飞的 FAA AI SMART 流量工具与其系统相关,称停飞“不基于 SMART 系统或由其引起”。
马来西亚正调查新加坡公司 Megaspeed 旗下的马来西亚子公司 Speedmatric 是否将从该国进口的 AI 芯片转运至海外。据报道,Speedmatric 涉及一个将至少 75 亿美元 Nvidia 芯片转移至中国的渠道。新加坡和新美国司法部也在调查位于 Jensen Huang 辞职事件中心的 Megaspeed,相关调查使东南亚作为受限 AI 芯片中转枢纽的角色受到更严格的监管审视。
美联储周五发布的半年度金融稳定报告指出,AI及由此推高的资产估值可能带来潜在脆弱性。该报告补充了美联储理事Bowman和Barr近期发出的警告,发布前一周Nvidia市值蒸发1.6万亿美元;波士顿联储主席Susan Collins也表示,AI投资推高需求,未来可能进一步收紧货币政策。
英国数据中心开发商Nscale在计划IPO的监管文件中披露,其借贷金额已大幅增至55亿美元,且对NVIDIA的依赖程度高于此前披露。这一披露发生在Jensen Huang离职后,neocloud行业正受到NVIDIA融资实践质疑的背景下,Nscale的上市将检验公开市场是否仍愿意支持高杠杆的AI基础设施。
白宫AI工作组在周四会议上建议机构放宽网络责任政策,鼓励AI企业自愿报告关键事件。该方案以法律豁免换取透明,不同于纽约RAISE Act等州法的强制报告规定。
Dario Amodei在与JPMorgan CEO Jamie Dimon的直播路演中称,决定购买多少算力是Anthropic的“巨大不确定性”。招股书显示公司基础设施承诺约9000亿美元,其中约一半需在2030年前支付;目标估值1.4万亿美元。Amodei表示人才和文化占其40%–50%的时间,Anthropic拒绝了部分“jerks”和非公共利益导向的高技术人才。
推荐理由:Amodei在IPO路演中说明Anthropic的基础设施支出压力和计算资源决策难点,提供了判断公司估值与运营风险的关键视角。
OpenAI 解散独立机器人团队,机器人研究员并入 Mark Chen 领导的主研究部门,应用机器人与硬件团队划归 Greg Brockman 的应用部门。公司称此举体现对通用模型直接驱动机器人的更深层承诺,仍计划在 2027 年首次公开展示自家人形机器人。这是 OpenAI 第二次解散机器人团队,2020 年曾关闭一个团队,2024 年重建。
腾讯11月11日司庆后,马化腾内部讲话中强调“不养闲人”,提出50%员工守主业、50%探索AI Native的新布局,引发“裁员50%”误传,后被否认。97年出生的姚顺雨空降腾讯接管混元大模型,通过撤销AI Lab、合并基础模型部、压缩数据冗余、跨部门调配人员,并在一年时间推动Hy4上线,实现参数与性能代际跃升。腾讯同时开启混元多模态团队人员更替与大规模招聘,组织扁平化与“换血型变革”加速推进。
推荐理由:姚顺雨通过重组混元团队、打破部门墙、推动数据清洗与模型合并,让腾讯AI从落后状态快速产出Hy4并进入可被外部验证的第一梯队。
Pearl Abyss 在最新财报中证实,公司正将生成式 AI 应用范围扩展至整个游戏开发管线,以自动化重复任务、辅助内容创作并优化测试流程。 该举措旨在提升开发生产力与研发速度,利用 AI 进行快速原型设计与概念验证,但强调核心玩法与内容创作仍完全由人类开发团队主导。 Pearl Abyss 明确表示,AI 仅作为提升效率的工具而非人力替代品,未来将加速推出高品质游戏。
马斯克回应 Cybercab 自动驾驶订阅月费 299 美元过高的争议,认为合理价格应为 115 美元左右。该费用约为起售价 29,990 美元的 1%,且与 FSD 及联网服务费用相当。一旦获监管批准,该服务将在全美推出。
CD Projekt Red 确认《巫师 3:狂猎》扩展包采用 Respeecher 的 AI 语音转换技术,以还原杰洛特波兰语配音演员 Jacek Rozenek 的中风前声线。
新西兰最大零售商 The Warehouse 被控利用 AI 监控员工如厕时间,300 多名员工因此抗议。 公司称所用技术为扫描效率设备,否认与如厕有关,并说明无人机盘点增加了 3 个临时岗位。 工会认为监控侵犯隐私并恐引发裁员,公司则强调会提供再培训与转岗机会。
比亚迪辅助驾驶车型保有量已超 419 万辆,天神之眼系统日数据生成量突破 2.6 亿公里。 今年 5 月该数据分别为 315 万辆和 2 亿公里,半年内保有量净增逾百万辆。 车队规模扩大提升了长尾场景覆盖密度,支撑端到端大模型通过真实数据自主学习复杂博弈。
微软 AI 科学家约翰·兰福德宣布离职,主要因研究成果缺乏落地路径且创新想法未获认真考虑。 兰福德曾任 AI Frontiers 实验室联合创始人,其团队 9 月并入 Microsoft AI 部门后,因在研究路线上与部门侧重扩大模型规模的方向产生分歧而选择离开。
MathHelm 是一个供研究数学家讨论数学进展的论坛,允许使用机构邮箱的用户发帖讨论论文。该论坛近期展示了多篇被标记为已解决著名数学猜想或定理的论文,其中包含一篇由 Claude 在 Levent Alpöge 指导下生成的关于 S^6 复结构的初始手稿。
英伟达员工内网发文呼吁董事会听取意见并支持黄仁勋复职,马斯克在X平台公开表态将参与相关请愿活动并签名。
微软官方账号在 Outlook 等服务大面积宕机期间发布推文,询问初学者应尽早养成哪个 AI 使用习惯。该推文浏览量超 218.9 万,迅速引发网友不满。 微软澄清故障与 AI 无关,系部分服务器未通过自动健康检查,现已暂停部署并扩大补丁应用范围。
AI 录音硬件市场拥挤,产品形态从手机背贴延伸至穿戴设备,核心竞争点在于从单纯录音转向构建“个人上下文代理”。Plaud 软件订阅 ARR 达 1 亿美元,设备出货超 200 万台;国内 199 元低价卡普及,海外订阅年费 99 至 240 美元。
华尔街日报报道称 Nvidia 被指通过投资 AI 初创公司以采购其 GPU 来人为维持高需求假象,从而处理来自台积电的半导体过剩。报道指出前 CEO Jensen Huang 在会议上反对缩减与 OpenAI 的 2500 亿美元交易,并斥责 CFO Colette Kress,同时强调对小型云服务商的投资可能因对方缺乏购买力而成为财务死胡同。
文章探讨了公众舆论中常将复杂系统故障(如地面停飞)直接归因于 AI 的倾向。 这种归因往往忽略了具体技术细节,反映了大众对人工智能能力边界的误解。
黄仁勋于11月12日辞去英伟达总裁、CEO及董事职务,CFO科莱特·克雷斯接任临时CEO。辞职前一日,英伟达市值蒸发约9200亿美元,股价大跌13.58%。
同一新闻,精选展示《Jensen Huang丑闻致Nvidia市值一个月蒸发超1万亿美元》
英伟达创始人黄仁勋正式辞去CEO职务。多位科技界领军人物对此反应两极,Shopify创始人称其为“世代级错误”,而部分投资人则认为类似苹果赶走乔布斯,属于“长期来看未必是坏事”。
推荐理由:文章汇总了多位知名投资人、科技创始人的即时反应,并展示了市场对英伟达股价的具体估值分歧。
开发者在 chat.deepseek.com 前端代码中发现完整额度管理逻辑,支持每 5 分钟轮询各模型额度状态。 代码涵盖剩余额度实时同步、耗尽即时提醒及恢复通知,指向名为“Coding Plan”的专属套餐,社区推测其将随 DeepSeek V4.1 Pro 上线。 官方尚未公布订阅方案价格与日期,此前个人收费仅靠 API 按 Token 计费。