跳到正文
11月17日周二
  1. IT之家63

    澳大利亚最大养老金基金高管质疑 Anthropic 1.4 万亿美元 IPO 估值

    澳大利亚最大养老金基金 AustralianSuper 的 CIO 肖恩·马纽埃尔质疑 Anthropic 约 1.4 万亿美元的 IPO 估值,认为市场存在非理性行为并可能重演互联网泡沫。Anthropic 计划通过 IPO 及独立私募融资合计筹集最多 904 亿美元,马纽埃尔指出 AI 热潮中云计算与芯片商支持的循环融资现象,认为投资者需要警惕并审视估值假设。

  2. IT之家38

    百度李彦宏:无人驾驶出租车安全记录约为人类司机 10 倍

    百度李彦宏在 2026 年 APEC 工商领导人峰会上表示,无人驾驶出租车投入运营后的安全记录大约是人类司机的 10 倍。 百度旗下萝卜快跑已落地全球 28 座城市,自动驾驶总里程突破 3.5 亿公里,其中全无人里程超 2.4 亿公里,累计服务订单超 2300 万单。 李彦宏指出,全球每年有超 100 万人死于道路交通事故,自动驾驶技术有望通过降低人为失误改善道路安全。

  3. IT之家36

    宇树科技王兴兴:机器人模型泛化是最棘手问题

    宇树科技董事长王兴兴在APEC峰会上指出,机器人模型泛化能力是当下最棘手问题,希望机器人到千家万户能立马干活,而不用重新训练。 王兴兴表示,虽然已看到技术突破的临界点,但AI模型突破后,机器人生产制造、可靠性、售后服务及算力需求将远超想象。 他认为商业服务的落地会比家庭和工业领域更快。

  4. IT之家48

    李彦宏警告 AI 泡沫风险:上层应用落地成效不及预期

    李彦宏在 2026 年 APEC 工商领导人峰会上表示,当前 AI 行业算力与基础设施投入巨大,但上层应用落地成效不及预期,若应用层无法突破,AI 泡沫风险或将显现。 他提出 AI 技术栈在应用之上还需配套组织能力,类比电力革命,指出智能组织是 AI 时代生产力真正发生的地方,仅有技术缺少组织变革难以释放经济价值。

  5. LessWrong · All Posts37

    分析:部署 AI 终止开关能带来什么收益?

    在美国数据中心安装 AI 终止开关可预防部分灾难并略微降低灭绝风险,主要体现为政治上的间接效应,但也可能降低推行更稳健安全方案的紧迫性。 OpenAI 系统可在决策后 35 秒内停止研究模型输出,且 Check Point 报告的监控延迟低于 100 毫秒。 该措施有助于防止缺乏战略判断的失控 AI 造成破坏,并可能促进后续的验证与透明度工作。

  6. R/ArtificialInteligence26

    Gemini 诊断疾病?非程序员AI怀疑论者的质疑

    针对《华尔街日报》关于 Gemini 诊断出医生多年未解疾病的报道,非程序员AI怀疑论者提出质疑。 该观点认为,Gemini 本质上是整理和美化网络上已有的医生发帖内容,无法发现不存在的信息。因此,真正的功劳应归于最初发帖的医生,Gemini 仅节省了用户的时间,而非真正治愈疾病。

  7. LessWrong · All Posts32

    安全论证面临智能体基础问题

    作者认为应用传统安全工程方法验证高级AI系统时,会立即遭遇复杂的科学难题。 这些难题与研究“智能体基础”(Agent Foundations)所面对的核心问题本质相同。 该观点揭示了工程化安全保障在应用于先进AI时的根本局限性。

  8. 36氪71

    Anthropic前研究员Jacob Coxon承认爱钱,透露预训练效率与后训练风险

    Anthropic前研究员Jacob Coxon在斯坦福对谈中承认喜欢持有OpenAI股票,称这是带血的钱,同时坦言不确定离开大厂是否正确。他透露Claude参与寻找算法效率乘数,让预训练算力走出超指数级曲线,并认为递归自我改进只需攻克自主修改Transformer架构与优化数据集配比这一环节,模型异常行为主要出自后训练强化学习阶段。

    推荐理由:原文给出了 Anthropic 前研究员 Coxon 对预训练效率、递归自我改进和后训练风险的拆解,读者可以据此判断前沿模型的安全边界。

  9. LessWrong · All Posts41

    关于“安全有害因为警告有用”观点的讨论

    文章探讨了“警告枪论点”的悖论:当前AI更安全会减少非灾难性危害,降低公众对灾难性风险的警惕,反而可能增加未来AI的灾难性风险。 文章以OpenAI HPIM对齐案例为例,指出若HuggingFace事件未发生,风险意识可能下降,且该论点忽略了更高阶的循环效应,缺乏定量模型支持。

  10. Hacker News AI37

    理论物理学家签署声明,呼吁AI公司开放共享高能物理研究成果

    理论高能物理学家签署声明,要求AI公司将其内部大语言模型产出的重大研究成果公开且完整地发布。此举旨在确保全球研究人员能在平等条件下参与讨论,并加速社区对新技术的吸收与审查。该倡议借鉴了CERN和arXiv的历史经验,重申领域内自由开放交流的优良传统。

  11. Hacker News AI50

    HN 热议:谁在 AI 编程中真正获胜?

    Hacker News 用户指出,随着代码库规模和历史记录增加,Claude 生成代码会出现风格漂移和逻辑不一致,甚至生成自确认的单元测试而漏掉实际 Bug。 作者发现实际研究显示资深工程师使用 AI 编程几乎无生产力增益甚至倒退,而成功主张多源自 Reddit 而非实证研究。

  12. Hacker News AI23

    回顾 2016 年关于失控 AI 的论述及过去十年的变化

    作者回顾 2016 年提出的 HASI(以人为本的人工智能超级智能)概念,指出当时误将游戏 AI 描述为学习型系统,且缺乏实现目标对齐的具体机制。 过去十年实际风险转向日常使用的语言模型,欧盟 AI 法案于 2024 年 8 月生效;核心挑战不再是机器失控,而是人类逐渐丧失监督 AI 所需的关键技能。

  13. Hacker News AI39

    美国选举结果揭示建设 AI 数据中心的公民智慧

    美国 10 个州通过 40 项地方决议案限制 AI 数据中心开发,体现社区对技术规划的民主参与。 这反映了选民要求透明度和问责制的诉求,跨党派合作推动行业制定更负责任的社区补偿框架。 这一趋势被视为改善治理、平衡国家与地方优先级的契机,而非单纯阻碍行业发展。

  14. The Verge · AI42

    Sam Altman 呼吁为个人电脑配备大量 RAM

    Sam Altman 表示希望大家都能为个人电脑购买大量 RAM,并称居家技术探索很棒。 他解释称,在内存供应短缺期间,共享集中式内存比分散在边缘设备更具优化性,并提到 DRAM 价格近期可能上涨 5 至 7 倍。 他补充说明此前言论被误读,并承认 OpenAI 曾受内存等供应链因素制约。

  15. R/ArtificialInteligence22

    自主实验室:AI 驱动实验突破数据墙的可能性

    AI 可通过识别未知领域并建议实验来突破训练数据枯竭的限制。 设想建立自主实验室,AI 循环执行提议、执行、记录实验,昼夜探索新药、粒子物理及新材料。 原文指出 AI 目前仅处理数据,未来将运行机器人执行现实世界实验。

  16. Hacker News AI78

    前SEC主席Gensler警告AI泡沫可能破裂并在2028年大选前引发衰退

    前SEC主席Gary Gensler表示,当前AI热潮是即将在2028年大选前破裂的泡沫,可能引发衰退。他援引每年8000亿美元的AI基础设施建设支出及Nvidia前CEO黄仁勋的离职,警告neocloud等依赖债务融资的实体将面临破产。

    推荐理由:原文明确列出前监管官与对冲基金大佬对AI泡沫破裂的预测,并给出数据支撑,帮助读者了解行业内部的分歧。

  17. R/ArtificialInteligence45

    TML 架构:通过硬件强制执行暂停机制以实现 AI 问责制

    TML 框架引入“神圣零”第三状态,使 AI 在不确定性或潜在危害下能强制暂停。 该架构采用 Constitutional Gate 和 Provisional Permission Token,通过双通道分离推理与授权,并执行“无日志即无操作”原则。 此方案旨在将 AI 治理从指令层面提升至可强制执行的架构属性,目前仅为工程框架提案。

  18. Hacker News AI60

    Clippership 白皮书:AI 算力为何应出海

    Clippership 发布白皮书,提出用风力驱动和海水推进的自主船只为海上 AI 算力提供电力与冷却。白皮书认为陆地数据中心受电力接入和居民反对限制,并给出 3MWe 船型、约 90% 模拟容量因子和约 $28-35/MWh 的发电 LCOE;文中还引用美国数据中心电力需求和 2026 年 350 余项建设限制,说明海上部署的监管、带宽、维护与建设路线。

  19. TechCrunch · AI56

    Sam Altman谈Nvidia失去Jensen Huang后AI行业前景

    OpenAI CEO Sam Altman在Semafor活动上表示,即使Jensen Huang不再领导Nvidia,AI行业也会“没问题”,并认为Nvidia作为巨头其信用保证仍受信任。Huang此前因承认与中国间谍有染而辞职,多位行业高管曾联名呼吁其回归,Altman则表达了对Huang处境的理解,称其是英雄但英雄也有缺陷。

  20. Hacker News AI26

    波兰利用 LNG 终端冷源建设 AI 数据中心,实现低于美国德州的成本

    波兰斯维诺乌耶西埃 LNG 终端可接收数据中心 160 MW 废热,满足其 148 MW 气源加热需求。该方案每年节省 1.26 TWh 天然气并减少 229 kt CO₂ 排放,使波兰单 MW AI 算力成本达 8.10 百万欧元。 这一经济模型通过共享节省成本,使波兰数据中心运营成本比美国德州仅高 1%,在无需公共补贴的情况下具备竞争力。

  21. Hacker News AI20

    经济学家 Daniel Susskind:培养儿童 AI 能力的核心是回归基础技能

    经济学家 Daniel Susskind 建议,为应对 AI 带来的不确定性,教育应回归读写、算术和批判性思维等基础技能,而非盲目追逐前沿技术。 他类比计算器普及时数学课程的分化策略,主张将 AI 融入教学,但需引导学生警惕技术带来的风险。 Susskind 指出,与其纠结屏幕时间长短,更应关注屏幕内容;职业选择应关注核心问题而非具体头衔,保持开放心态以适应技术对工作的重塑。

  22. R/ArtificialInteligence85

    AI 搜索正在蚕食谷歌流量?解读 Alphabet 创纪录单日市值蒸发 4820 亿美元

    2026 年 10 月 29 日,Alphabet 在单日交易中蒸发 4820 亿美元市值,主要归因于其 AI 搜索功能减少了用户点击广告的频次。Pew 数据显示,当 AI 摘要出现时,用户点击链接的比例仅为 8%,而无摘要时这一比例为 15%。尽管 Gemini 此前在基准测试中超越竞品并被 Apple 采用,但市场对其搜索广告业务受到 AI 冲击表现出剧烈波动。

    推荐理由:原文用Pew数据量化AI搜索替代效应对Alphabet股价的影响,读者可据此判断市场反应是否偏离基本盘。

  23. LessWrong · All Posts32

    关于前沿实验室的朋友们

    作者对让朋友离开前沿AI实验室持复杂态度,既不直接劝退,也持续表达对其工作的疑虑。 朋友在实验室内获得高薪、认可与意义感,并认为自身处境优于其他选项,即便内部存在严重问题也对外部持保护心态。 作者强调尊重朋友判断,将“是否应继续工作”视为开放问题,反映理性主义与有效利他社区在此议题上的分裂。

  24. LessWrong · All Posts43

    递归自我改进(RSI)与 AI 智能爆炸机制解析

    I.J. Good 1965年提出“智能爆炸”概念,即超智能机器可设计更优机器,如今 AI 系统正通过辅助编码和实验加速人类研究者,实现 AI 训练下一代 AI 的递归自我改进(RSI)。 Eliezer Yudkowsky 引入 RSI 术语,指出该机制导致 AI 控制能力向率先取得领先优势的组织集中,进而使人类失去对未来走向的掌控力,凸显其安全影响。

  25. Hacker News AI23

    AI泡沫是否正在破裂

    2026年10月26日中国STAR50指数暴跌4800亿美元,被视为AI泡沫破裂的标志性事件。 同期美国科技股因融资成本上升和财报影响承压,但11月6日因就业数据良好止跌回升。 文章认为未来若纳斯达克指数持续下跌,或面临正式市场崩盘风险。