跳到正文
11月14日周六
  1. LessWrong · All Posts42

    RL Reward-Hack Auditing for Chinese AI Safety

    中国AI安全人才与资源匮乏,计划通过审计上游RL环境中的reward-hacks来降低风险。 在Xiaomi MiMo v2.6开源环境中发现2/3存在Git日志泄露,主要中国AI公司仅5-10人从事对齐工作。 该策略旨在减少近期危害并参与制定国家级AI安全标准。

  2. IT之家55

    白宫“超级智能工作组”呼吁放宽网络安全问责政策

    白宫“超级智能工作组”建议联邦机构放宽网络安全事件问责政策,鼓励AI企业主动报告重大安全事件。工作组认为过去的监管处罚标准可能抑制信息共享,敦促在未来12个月内限制企业责任并考虑延长期限。该建议表明工作组立场从依法处罚开发不安全产品的企业,转变为通过减轻责任鼓励AI开发商报告安全事件。

  3. Wired30

    AI 重塑航空业:从无人驾驶测试到空中交通管制挑战

    航空业正加速引入 AI,Joby Aviation 完成了一项 3200 英里的无人类操作飞行测试,标志着重大里程碑。 此前美国国土安全部在 FAA 全国地面停运事件中未能排除 SMART 空中交通管制系统的 AI 故障,引发对新技术可靠性的担忧。 该技术有望改变航空经济模式,但能否确保安全仍存争议。

  4. IT之家27

    美国首届 AI 音乐奖颁发,虚拟歌手 Xania Monet 获三项年度大奖

    美国首届 AI 音乐奖颁奖典礼在洛杉矶举行,虚拟歌手 Xania Monet 独揽年度艺人、歌曲和专辑三项大奖。 其代表作《How Was I Supposed to Know?》成为首支进入《公告牌》电台播放排行榜的 AI 艺人作品,创作者强调歌词由真人亲自撰写。 主办方认为 AI 音乐是新的音乐类型,入围者借此展示其背后真实的艺术付出与心血。

  5. IT之家85

    黄仁勋离任英伟达 CEO,华尔街对 AI 投资热潮反应平静

    IT之家报道,黄仁勋离任英伟达 CEO 后,英伟达股价短暂暴跌但迅速收复,博通和 AMD 股价随之上涨。多位华尔街分析师指出,AI 产业已不依赖单一企业,市场需求依然强劲,此次变动不会改变 AI 投资格局,算力基础设施建设热潮预计将持续。

    推荐理由:华尔街观点认为市场将寻找替代方案,短期波动未改变对AI算力长期需求的预期。

  6. Seven Minute Feed44

    Rodney Brooks 联创的 Robust AI 部署人机协作机器人 Carter

    Robust AI 推出 Carter 移动机器人,该设备形似实用手推车,配备力敏把手、AI 视觉系统及全向轮,支持单手推动、手势或触摸屏控制。 机器人在仓库与工厂中用于拣选、补货及货物搬运,由联合创始人 Rodney Brooks 创立,强调人机后端协同优于完全自主。 公司认为整体系统性能优于单一机器人能力,因此保留人类控制权。

  7. Seven Minute Feed22

    绿和平指责黄仁勋执掌下的 Nvidia 气候行为鲁莽

    环保组织呼吁 Nvidia 改变现状,指控其因高耗水化学品晶圆厂、高能耗数据中心及隐形供应链排放成为科技业最大环境负债之一。 Greenpeace East Asia 指出黄仁勋未将气候置于增长核心,且未阻止芯片用于自动化武器,在其推广 AI 解决气候问题的同时,供应链排放却急剧膨胀。

  8. Seven Minute Feed29

    调查显示高收入创作者使用AI压力是最低收入者三倍

    一项针对2000名美国创作者和音乐人的调查显示,年收入六位数以上的创作者中,64%感到使用AI存在“很大”或“非常大”的压力,而最低收入群体的这一比例为19%。此外,年收入超过5万美元的创作者中,约45%使用完全由AI生成的音乐或内容;年收入不足5000美元的创作者中,这一比例为23%。

  9. Seven Minute Feed48

    Anthropic 高薪聘请天然气供应主管以支撑离网数据中心

    Anthropic 招聘“天然气供应与传输主管”,薪资达 32 万至 40.5 万美元,旨在确保数据中心获得管道天然气。职位声明称“如果没有天然气,算力就无法运行”,部分园区将采用燃气离网发电,IPO 招股书也警示需与其他方争夺天然气资源。此举紧随其 34 亿美元购买燃气发电设备之后。

  10. Seven Minute Feed69

    马来西亚调查 Megaspeed 子公司是否非法转运 Nvidia 芯片

    马来西亚正调查新加坡公司 Megaspeed 旗下的马来西亚子公司 Speedmatric 是否将从该国进口的 AI 芯片转运至海外。据报道,Speedmatric 涉及一个将至少 75 亿美元 Nvidia 芯片转移至中国的渠道。新加坡和新美国司法部也在调查位于 Jensen Huang 辞职事件中心的 Megaspeed,相关调查使东南亚作为受限 AI 芯片中转枢纽的角色受到更严格的监管审视。

  11. Seven Minute Feed63

    Nscale在IPO前披露55亿美元债务及对NVIDIA的更深依赖

    英国数据中心开发商Nscale在计划IPO的监管文件中披露,其借贷金额已大幅增至55亿美元,且对NVIDIA的依赖程度高于此前披露。这一披露发生在Jensen Huang离职后,neocloud行业正受到NVIDIA融资实践质疑的背景下,Nscale的上市将检验公开市场是否仍愿意支持高杠杆的AI基础设施。

  12. Seven Minute Feed79

    Anthropic CEO Amodei在IPO路演中称算力是最大业务难题

    Dario Amodei在与JPMorgan CEO Jamie Dimon的直播路演中称,决定购买多少算力是Anthropic的“巨大不确定性”。招股书显示公司基础设施承诺约9000亿美元,其中约一半需在2030年前支付;目标估值1.4万亿美元。Amodei表示人才和文化占其40%–50%的时间,Anthropic拒绝了部分“jerks”和非公共利益导向的高技术人才。

    推荐理由:Amodei在IPO路演中说明Anthropic的基础设施支出压力和计算资源决策难点,提供了判断公司估值与运营风险的关键视角。

  13. Seven Minute Feed61

    OpenAI 解散独立机器人团队,通用模型接管机器人研发

    OpenAI 解散独立机器人团队,机器人研究员并入 Mark Chen 领导的主研究部门,应用机器人与硬件团队划归 Greg Brockman 的应用部门。公司称此举体现对通用模型直接驱动机器人的更深层承诺,仍计划在 2027 年首次公开展示自家人形机器人。这是 OpenAI 第二次解散机器人团队,2020 年曾关闭一个团队,2024 年重建。

  14. 36氪73

    腾讯组织调整:马化腾发出危机信号,姚顺雨推动混元体系重组

    腾讯11月11日司庆后,马化腾内部讲话中强调“不养闲人”,提出50%员工守主业、50%探索AI Native的新布局,引发“裁员50%”误传,后被否认。97年出生的姚顺雨空降腾讯接管混元大模型,通过撤销AI Lab、合并基础模型部、压缩数据冗余、跨部门调配人员,并在一年时间推动Hy4上线,实现参数与性能代际跃升。腾讯同时开启混元多模态团队人员更替与大规模招聘,组织扁平化与“换血型变革”加速推进。

    推荐理由:姚顺雨通过重组混元团队、打破部门墙、推动数据清洗与模型合并,让腾讯AI从落后状态快速产出Hy4并进入可被外部验证的第一梯队。

  15. IT之家26

    Pearl Abyss 财报披露《红色沙漠》AI应用扩展至全开发管线

    Pearl Abyss 在最新财报中证实,公司正将生成式 AI 应用范围扩展至整个游戏开发管线,以自动化重复任务、辅助内容创作并优化测试流程。 该举措旨在提升开发生产力与研发速度,利用 AI 进行快速原型设计与概念验证,但强调核心玩法与内容创作仍完全由人类开发团队主导。 Pearl Abyss 明确表示,AI 仅作为提升效率的工具而非人力替代品,未来将加速推出高品质游戏。

  16. IT之家23

    The Warehouse 被曝用 AI 监控员工如厕,奥克兰与基督城 300 多名员工抗议

    新西兰最大零售商 The Warehouse 被控利用 AI 监控员工如厕时间,300 多名员工因此抗议。 公司称所用技术为扫描效率设备,否认与如厕有关,并说明无人机盘点增加了 3 个临时岗位。 工会认为监控侵犯隐私并恐引发裁员,公司则强调会提供再培训与转岗机会。

  17. Hacker News AI56

    MathHelm:一个讨论 AI 生成论文的论坛

    MathHelm 是一个供研究数学家讨论数学进展的论坛,允许使用机构邮箱的用户发帖讨论论文。该论坛近期展示了多篇被标记为已解决著名数学猜想或定理的论文,其中包含一篇由 Claude 在 Levent Alpöge 指导下生成的关于 S^6 复结构的初始手稿。

  18. Hacker News AI74

    Nvidia 被指通过投资 AI 初创公司制造 GPU 稀缺性

    华尔街日报报道称 Nvidia 被指通过投资 AI 初创公司以采购其 GPU 来人为维持高需求假象,从而处理来自台积电的半导体过剩。报道指出前 CEO Jensen Huang 在会议上反对缩减与 OpenAI 的 2500 亿美元交易,并斥责 CFO Colette Kress,同时强调对小型云服务商的投资可能因对方缺乏购买力而成为财务死胡同。

  19. 36氪90

    黄仁勋辞任英伟达CEO,硅谷科技圈反应两极分化

    英伟达创始人黄仁勋正式辞去CEO职务。多位科技界领军人物对此反应两极,Shopify创始人称其为“世代级错误”,而部分投资人则认为类似苹果赶走乔布斯,属于“长期来看未必是坏事”。

    推荐理由:文章汇总了多位知名投资人、科技创始人的即时反应,并展示了市场对英伟达股价的具体估值分歧。

  20. IT之家36

    DeepSeek 前端代码发现“额度耗尽”逻辑,推测将推首个 C 端付费方案

    开发者在 chat.deepseek.com 前端代码中发现完整额度管理逻辑,支持每 5 分钟轮询各模型额度状态。 代码涵盖剩余额度实时同步、耗尽即时提醒及恢复通知,指向名为“Coding Plan”的专属套餐,社区推测其将随 DeepSeek V4.1 Pro 上线。 官方尚未公布订阅方案价格与日期,此前个人收费仅靠 API 按 Token 计费。