The Decoder· Matthias Bastian·· 11 天前AI 评分67
The Bitter Lesson 提出者 Richard Sutton 警告:单纯算力堆叠不能带来智能,LLM 扩展路线受到质疑
The inventor of the bitter lesson has a bitter lesson for LLM scaling enthusiasts
AI 导读
图灵奖得主 Richard Sutton 在 X 上表示,单纯算力堆叠不足以成就智能,AI 科学需要更巧妙的、可以随算力增长的新学习方法,整个领域离终点还远。他进一步批评把合成数据当作主要训练燃料是“大错”,认为真实世界远比任何模拟复杂,当前 LLM 在训练结束后停止学习,需要的是能持续从自身经验中积累、且不遗忘旧知识的、具备世界模型的智能体。
来源:The Decoder · the-decoder.com