Thinking Machines 实验揭示 LLM 在 temperature 0 下仍不具确定性
热点事件持续更新
Thinking Machines 实验揭示 LLM 在 temperature 0 下仍不具确定性
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Thinking Machines 对同一 prompt 在 temperature 0 条件下进行 1000 次 API 调用，结果显示产生 80 种不同输出。该实验表明，即使将 temperature 设为 0 并固定 seed，LLM 在实际服务环境中依然不具备确定性。后续报道指出，缺乏确定性的主要原因包括后端 batching 机制、模型更新以及输入漂移等因素。这一发现为构建高可靠性 AI 产品提供了关键事实依据，说明仅靠模型参数无法保证输出一致性。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 07:52
确定性 AI：LLM 为何不满足确定性以及如何构建确定性产品报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- Hacker News AI确定性 AI：LLM 为何不满足确定性以及如何构建确定性产品
Thinking Machines 在 temperature 0 下运行同一 prompt 1000 次得到 80 种不同结果，证明 LLM 在 API 调用中即使设置 temperature 0 和固定 seed 也不具备确定性，主要受 batching、模型更新和输入漂移影响。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。