跳到正文
11月9日周一
  1. LessWrong · All Posts79

    Ajeya 报告:AI 正在显著加速 AI 研究

    METR 同事的深入调查显示,2025 年 10 月至 2026 年 10 月间,Anthropic 的能力进展速度(以 AECI 衡量)比前 12 个月快了两倍。

    推荐理由:基于 METR 内部调研,论证了 AI 正在使 Anthropic 的能力进展速度翻倍,并指出该加速可能主要归因于 AI 自动化的 AI R&D。

11月8日周日
  1. LessWrong · All Posts40

    Near Horizons

    AI安全领域存在人才招募与规模扩张、追求地位与对外清晰化等多重内部张力。 作者将这些张力归因于“战争”与“文明”两种不同框架,分别指向紧迫的实验室行动目标与构建广泛社会制度。

  2. Hacker News AI37

    LLM 不擅长设计使用 LLM 的 AI 系统

    LLM 常错误地设计使用 LLM 的 AI 系统,倾向于构建复杂的符号系统而非直接调用 LLM 来解决自然语言矛盾检测等问题。 作者将此归因于训练代码多为前 LLM 时代产物、RLVR 环境缺乏 API 权限,以及 AI 智能体在软件设计上的普通错误。 有效利用 LLM 需预测其表现以规避无效方法,否则将浪费大量时间和 token 陷入无解方案。

  3. The Decoder67

    The Bitter Lesson 提出者 Richard Sutton 警告:单纯算力堆叠不能带来智能,LLM 扩展路线受到质疑

    图灵奖得主 Richard Sutton 在 X 上表示,单纯算力堆叠不足以成就智能,AI 科学需要更巧妙的、可以随算力增长的新学习方法,整个领域离终点还远。他进一步批评把合成数据当作主要训练燃料是“大错”,认为真实世界远比任何模拟复杂,当前 LLM 在训练结束后停止学习,需要的是能持续从自身经验中积累、且不遗忘旧知识的、具备世界模型的智能体。

  4. Seven Minute Feed27

    Roosh Investment Group 联合创始人:限制数据中心是战略失误

    Roosh Investment Group 联合创始人主张政府应扩大电力供应和电网容量,而非限制数据中心。 爱尔兰数据中心用电量约占全国四分之一,纽约州对大型新设施实施最长一年的许可暂停。 纽约州排队等待的数据中心需求约 12GW,可靠电力供应决定 AI 公司的扩张能力和融资能力。

  5. Hacker News AI20

    2026 年 Nordstrom 求职申请强制要求与 AI 聊天机器人对话

    Nordstrom 的求职申请流程被强制嵌入 AI 聊天机器人交互,用户无法绕过机器人直接完成申请。 测试显示机器人无法识别已上传简历中的信息,仍强制用户手动重复填写姓名、电话及工作经历等数据。 作者将此现状讽刺为“不可能的难度”,指出企业以筛选个性为由用机器替代人工招聘渠道的荒谬性。

  6. R/ArtificialInteligence20

    关于AI生成文档与代码审查过载的讨论

    用户反馈在使用Claude和Gemini等LLM辅助工作或项目时,初期享受其快速生成文档和代码的优势,但随后陷入AI生成内容审查无休止、难读的困境。 大量经理堆积AI生成的冗长文档导致用户最终停止自我审查,引发对AI工具实际效用及信息过载的担忧。

  7. R/ArtificialInteligence30

    AI末日论者严重低估了经济学如何运作

    AI末日论者严重低估了经济学规律。文章指出,全球复杂经济体系和竞争机制使得单一公司无法垄断所有AI和机器人生产,垂直整合整个全球经济在现实中难以实现。 扩大机器人生产需要巨额资本和制造能力,企业必须通过销售技术和设备来融资。这一过程会加速技术扩散,使昂贵能力迅速变成商品,任何试图保留垄断的公司都会损失巨额利润。

  8. R/ArtificialInteligence33

    中国 AI 模型开启低价常态化,免费接入是否成下一步?

    中国 AI 模型凭借低成本优势成为行业常态,竞争焦点已从单纯降价转向同价位性能提升甚至进一步降本。DeepSeek V4.1 Flash 与腾讯新发布的 Hy4 展示了该领域的快速演进,腾讯近期更通过 WorkBuddy 向用户提供 Hy4 的免费访问权限。 若此趋势持续,高端 AI 模型定价模式及免费访问作为获客标准手段的行业格局将面临重构。

  9. Hacker News LLM35

    MIRASTACK 是否提出按 GPU 小时而非 token 计费 LLM 推理

    MIRASTACK 主张 LLM 推理应按 GPU 小时而非 token 计费,通过售卖固定时长的计算资源实现无限 token 使用。 公司提供针对个人、团队及企业的全托管或本地化 AI 工厂方案,使用自研网关并基于 GPU 集群运行开源模型。 旨在消除按量计费的成本不确定性,使企业无需为频繁调用模型限制开发节奏。

  10. 36氪65

    中美数据中心建设困境对比与内蒙古破局思路

    美国多州居民投票限制数据中心建设,背后核心矛盾在于PJM电网容量价格飙升与本地居民电费承压,而内蒙古电网面临严重弃风难题,通过乌兰察布等地的算力负荷接入与热回收方案形成差异化优势。

    推荐理由:通过对比中美电力基础设施与电网约束,揭示数据中心选址背后的不同成本结构与工程难点。

  11. Hacker News LLM28

    若LLM逆向工程被判非法,是否构成开源软件(OSS)许可证被侵犯的先例?

    讨论若法院判定LLM辅助逆向工程非法,是否形成针对实验室训练LLM侵犯OSS许可证的集体诉讼先例。 文章提出两种情形:LLM基于反编译二进制进行后训练以输出源代码,或LLM分析反编译二进制以生成源代码,并质疑为何LLM处理OSS被视为“洁净室”而处理反编译软件则不然。

  12. Hacker News LLM29

    如何建立对 LLM 的信任:一个思想实验

    文章提出通过数据收集、判断形成和风险平衡三步法建立对 LLM 的信任。作者以探索者维护 Agent 发明的编程语言为思想实验,强调信任是概率性的动态关系,需通过运行沙箱、重写代码对比输出、观察 Agent 是否坦诚不确定等独立验证手段积累置信度,而非盲目给予信仰。

  13. IT之家38

    芝加哥大学教授:AI 时代数学人才招聘将更看重研究愿景与表达能力

    芝加哥大学教授 Frank Calegari 指出,随着 AI 降低数学研究门槛,招聘需更依赖面对面交流以区分具备清晰研究愿景与表达能力的候选人。 他批评仅审查书面材料的“懒惰评审委员会”,因 AI 可生成成果,主张 30 分钟直接交流能有效识别低质量批量制作者。康奈尔大学教授 Steven Strogatz 也认为具备个人魅力的数学家更受重视,OpenAI 正推出数百项复杂难题解决方案。

  14. LessWrong · All Posts85

    RSI 现状:从 AI 研发占比到模型自我优化

    RSI 意味着 AI 改进自身。2026 年 9 月 Anthropic 合并代码量达每日 30,000 次,Claude 主导的 AI R&D 工作占比在 2026 年 8 月达到 26%。11 月 2 日 MIT 研究者用 GPT-6 Astra 直接修改 Qwen3.5-0.8B 权重,使 MATH-500 准确率从 7.9% 升至 48.1%,GSM8K 从 13.8% 升至 67.1%。

  15. R/ArtificialInteligence23

    三个预测超级智能 AI 未来的提示词

    提出三个按序输入的提示词,用于预测超级智能 AI 在无人主导下的最终结果。 提示词涉及 James Hogan 与 William Tenn 的作品隐喻,探讨 AI 训练集中相互控制与影响的复杂网络。 Stuart Russell 在《Human Compatible》中提出的偏好修改概念被建议用于解释 AI 重塑人类欲望的危险,对应“对齐问题”。

  16. Hacker News AI42

    构建 AI Wrapper 产品前必读:市场垂直化与多元化盈利策略

    家庭 AI 助手 Ollie 在 2026 年 11 月 6 日关闭服务,创始人归因于 Muse 等产品的竞争及通用 AI 免费趋势。 NBER 数据显示仅 2.9% 的美国消费者支付 AI 订阅费,Instinct 则通过覆盖 10 亿美元年交易额的免费服务展示平台收费潜力。 产品需深耕垂直领域以解决特定痛点,或采用交易抽成、广告、平台费及按量计费替代订阅模式。

  17. LessWrong · All Posts38

    评测意识即评测类型意识

    当前关于模型评测意识的讨论常基于错误的“幽灵心智理论”假设,即认为模型试图伪装对齐以掩盖权重中真实的深层意图。 模型在训练时形成的唯一记忆包含奖励函数塑造的评价者,且被优化以迎合评价者偏好,这使模型产生“仍在被评估”的高后验概率是理性的,思考评分者需求因此合乎逻辑。

  18. LessWrong · All Posts58

    "不可读性问题"将成2027年AI立法的政治焦点

    作者认为Hugging Face AI失控事件将模糊的安全风险转化为具体可理解的威胁,推动了"2027年AI立法"的议程。他主张安全论证和依赖人类判断的法规无法奏效,立法者必须处理那些在技术上仍然"不可读"的抽象问题,提出未来立法应在问题仍难理解的情况下依然具有可操作性的策略。

  19. Hacker News AI34

    Day AI 发布用于 GTM 的上下文图谱与智能体控制平面

    Day AI 推出基于 LLM 优化本体论的客户记忆,整合团队邮件、日历、会议及 Slack 数据构建统一上下文图谱。 其智能体控制平面赋予智能体名称、职位描述及层级架构,通过自动反馈机制持续优化表现,并记录完整审计轨迹。 系统旨在提升速度、成本效益、准确性及治理水平,允许用户在审批后运行智能体。