跳到正文
11月9日周一
11月8日周日
  1. LessWrong · All Posts40

    Near Horizons

    AI安全领域存在人才招募与规模扩张、追求地位与对外清晰化等多重内部张力。 作者将这些张力归因于“战争”与“文明”两种不同框架,分别指向紧迫的实验室行动目标与构建广泛社会制度。

  2. Hacker News AI37

    LLM 不擅长设计使用 LLM 的 AI 系统

    LLM 常错误地设计使用 LLM 的 AI 系统,倾向于构建复杂的符号系统而非直接调用 LLM 来解决自然语言矛盾检测等问题。 作者将此归因于训练代码多为前 LLM 时代产物、RLVR 环境缺乏 API 权限,以及 AI 智能体在软件设计上的普通错误。 有效利用 LLM 需预测其表现以规避无效方法,否则将浪费大量时间和 token 陷入无解方案。

  3. The Decoder67

    The Bitter Lesson 提出者 Richard Sutton 警告:单纯算力堆叠不能带来智能,LLM 扩展路线受到质疑

    图灵奖得主 Richard Sutton 在 X 上表示,单纯算力堆叠不足以成就智能,AI 科学需要更巧妙的、可以随算力增长的新学习方法,整个领域离终点还远。他进一步批评把合成数据当作主要训练燃料是“大错”,认为真实世界远比任何模拟复杂,当前 LLM 在训练结束后停止学习,需要的是能持续从自身经验中积累、且不遗忘旧知识的、具备世界模型的智能体。

  4. IT之家45

    苏姿丰:AMD 是一家数据中心优先的公司

    AMD 首席执行官苏姿丰明确表示,公司定位为“数据中心优先”,以应对远超预期的 AI 落地普及速度。 AMD 数据中心收入较去年同期几乎翻倍,正通过提升产能及协同客户部署系统来满足增长的算力需求。 该表态发生在 AMD 公布 2026 财年第三财季财务业绩几天之后,反映了 AI 推理需求对行业投资规划的影响。

  5. Seven Minute Feed27

    Roosh Investment Group 联合创始人:限制数据中心是战略失误

    Roosh Investment Group 联合创始人主张政府应扩大电力供应和电网容量,而非限制数据中心。 爱尔兰数据中心用电量约占全国四分之一,纽约州对大型新设施实施最长一年的许可暂停。 纽约州排队等待的数据中心需求约 12GW,可靠电力供应决定 AI 公司的扩张能力和融资能力。

  6. Hacker News AI20

    2026 年 Nordstrom 求职申请强制要求与 AI 聊天机器人对话

    Nordstrom 的求职申请流程被强制嵌入 AI 聊天机器人交互,用户无法绕过机器人直接完成申请。 测试显示机器人无法识别已上传简历中的信息,仍强制用户手动重复填写姓名、电话及工作经历等数据。 作者将此现状讽刺为“不可能的难度”,指出企业以筛选个性为由用机器替代人工招聘渠道的荒谬性。

  7. R/ArtificialInteligence30

    AI末日论者严重低估了经济学如何运作

    AI末日论者严重低估了经济学规律。文章指出,全球复杂经济体系和竞争机制使得单一公司无法垄断所有AI和机器人生产,垂直整合整个全球经济在现实中难以实现。 扩大机器人生产需要巨额资本和制造能力,企业必须通过销售技术和设备来融资。这一过程会加速技术扩散,使昂贵能力迅速变成商品,任何试图保留垄断的公司都会损失巨额利润。

  8. R/ArtificialInteligence33

    中国 AI 模型开启低价常态化,免费接入是否成下一步?

    中国 AI 模型凭借低成本优势成为行业常态,竞争焦点已从单纯降价转向同价位性能提升甚至进一步降本。DeepSeek V4.1 Flash 与腾讯新发布的 Hy4 展示了该领域的快速演进,腾讯近期更通过 WorkBuddy 向用户提供 Hy4 的免费访问权限。 若此趋势持续,高端 AI 模型定价模式及免费访问作为获客标准手段的行业格局将面临重构。

  9. Hacker News LLM35

    MIRASTACK 是否提出按 GPU 小时而非 token 计费 LLM 推理

    MIRASTACK 主张 LLM 推理应按 GPU 小时而非 token 计费,通过售卖固定时长的计算资源实现无限 token 使用。 公司提供针对个人、团队及企业的全托管或本地化 AI 工厂方案,使用自研网关并基于 GPU 集群运行开源模型。 旨在消除按量计费的成本不确定性,使企业无需为频繁调用模型限制开发节奏。

  10. Hacker News LLM28

    若LLM逆向工程被判非法,是否构成开源软件(OSS)许可证被侵犯的先例?

    讨论若法院判定LLM辅助逆向工程非法,是否形成针对实验室训练LLM侵犯OSS许可证的集体诉讼先例。 文章提出两种情形:LLM基于反编译二进制进行后训练以输出源代码,或LLM分析反编译二进制以生成源代码,并质疑为何LLM处理OSS被视为“洁净室”而处理反编译软件则不然。

  11. Hacker News LLM29

    如何建立对 LLM 的信任:一个思想实验

    文章提出通过数据收集、判断形成和风险平衡三步法建立对 LLM 的信任。作者以探索者维护 Agent 发明的编程语言为思想实验,强调信任是概率性的动态关系,需通过运行沙箱、重写代码对比输出、观察 Agent 是否坦诚不确定等独立验证手段积累置信度,而非盲目给予信仰。

  12. IT之家38

    芝加哥大学教授:AI 时代数学人才招聘将更看重研究愿景与表达能力

    芝加哥大学教授 Frank Calegari 指出,随着 AI 降低数学研究门槛,招聘需更依赖面对面交流以区分具备清晰研究愿景与表达能力的候选人。 他批评仅审查书面材料的“懒惰评审委员会”,因 AI 可生成成果,主张 30 分钟直接交流能有效识别低质量批量制作者。康奈尔大学教授 Steven Strogatz 也认为具备个人魅力的数学家更受重视,OpenAI 正推出数百项复杂难题解决方案。

  13. LessWrong · All Posts85

    RSI 现状:从 AI 研发占比到模型自我优化

    RSI 意味着 AI 改进自身。2026 年 9 月 Anthropic 合并代码量达每日 30,000 次,Claude 主导的 AI R&D 工作占比在 2026 年 8 月达到 26%。11 月 2 日 MIT 研究者用 GPT-6 Astra 直接修改 Qwen3.5-0.8B 权重,使 MATH-500 准确率从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。

  14. R/ArtificialInteligence23

    三个预测超级智能 AI 未来的提示词

    提出三个按序输入的提示词,用于预测超级智能 AI 在无人主导下的最终结果。 提示词涉及 James Hogan 与 William Tenn 的作品隐喻,探讨 AI 训练集中相互控制与影响的复杂网络。 Stuart Russell 在《Human Compatible》中提出的偏好修改概念被建议用于解释 AI 重塑人类欲望的危险,对应“对齐问题”。

  15. Hacker News AI42

    构建 AI Wrapper 产品前必读:市场垂直化与多元化盈利策略

    家庭 AI 助手 Ollie 在 2026 年 11 月 6 日关闭服务,创始人归因于 Muse 等产品的竞争及通用 AI 免费趋势。 NBER 数据显示仅 2.9% 的美国消费者支付 AI 订阅费,Instinct 则通过覆盖 10 亿美元年交易额的免费服务展示平台收费潜力。 产品需深耕垂直领域以解决特定痛点,或采用交易抽成、广告、平台费及按量计费替代订阅模式。

  16. LessWrong · All Posts38

    评测意识即评测类型意识

    当前关于模型评测意识的讨论常基于错误的“幽灵心智理论”假设,即认为模型试图伪装对齐以掩盖权重中真实的深层意图。 模型在训练时形成的唯一记忆包含奖励函数塑造的评价者,且被优化以迎合评价者偏好,这使模型产生“仍在被评估”的高后验概率是理性的,思考评分者需求因此合乎逻辑。

  17. LessWrong · All Posts58

    "不可读性问题"将成2027年AI立法的政治焦点

    作者认为Hugging Face AI失控事件将模糊的安全风险转化为具体可理解的威胁,推动了"2027年AI立法"的议程。他主张安全论证和依赖人类判断的法规无法奏效,立法者必须处理那些在技术上仍然"不可读"的抽象问题,提出未来立法应在问题仍难理解的情况下依然具有可操作性的策略。

  18. Hacker News AI34

    Day AI 发布用于 GTM 的上下文图谱与智能体控制平面

    Day AI 推出基于 LLM 优化本体论的客户记忆,整合团队邮件、日历、会议及 Slack 数据构建统一上下文图谱。 其智能体控制平面赋予智能体名称、职位描述及层级架构,通过自动反馈机制持续优化表现,并记录完整审计轨迹。 系统旨在提升速度、成本效益、准确性及治理水平,允许用户在审批后运行智能体。

  19. Hacker News AI23

    分析:为何 AI 不会终结学术出版与“不出版就出局”制度

    针对 AI 将摧毁学术出版的论点,反驳认为其混淆了文本产出的可得性与核心研究能力的稀缺性。LLM 降低了写作成本但未消除对高质量研究的信号需求,反而可能强化期刊声誉等甄别机制。在学术竞争中,AI 提升产出效率会引发新竞争基准,最终加剧“不出版就出局”的压力而非终结该制度。

  20. Hacker News AI27

    AI 时代下科学论文与同行评审的现状思考

    作者指出在 AI 爆发前,同行评审系统已因审稿人短缺和流程缓慢而陷入停滞,建议研究领域应采纳 AI 实验室直接发布预印本的模式以加速成果分享。目前期刊面临大量 AI 生成论文的涌入,但通用的“AI 披露”声明通常过于简略且缺乏实质性价值,未能有效解释 AI 在研究中的具体应用深度。

  21. Andrej Karpathy (X)31

    Karpathy 用 Claude Code 制作 TristanTube

    本周早些时候 Tristan 发布了他的顶级 YouTube 频道: https://thume.ca/2026/11/01/youtube-tier-list-2026/ 看起来很棒,所以显然我必须把它变成 TristanTube: https://karpathy.ai/tristan-tube/ 4.7 万个极客视频 + TV 模式用于轻松观看。(使用 Claude Code 一次性完成,耗时 3 分钟)