跳到正文
Hacker News AI· bitofenglish·· 11 天前AI 评分47

AI 从思考的产物而非思考本身中学习

AI learns from the products of thinking, not thought itself

AI 导读

AI 模型基于思考过程的痕迹(traces)而非实际推理过程进行训练,导致其输出虽形似思维结果却并非由相同机制生成,这一特性限制了当前 AI 系统及人类用户的发展。 新版“推理”模型输出的步骤报告本身也是一种痕迹,常与实际计算驱动的答案不匹配;智能体系统虽通过反馈循环引入试错,但大语言模型生成的思维链仍是痕迹,在创作领域因缺乏摩擦与意外,AI 模型完全无法体验真实创作中的互动与转化。

来源:Hacker News AI · theconversation.com