arXiv · NLP· Haggai Roitman·· 4 小时前AI 评分35
System 1 快速决策模型入门指南:超越 LLM 的亚秒级路由与分类
The Hitchhiker's Guide to System 1 Models: Fast Decision-Making Beyond LLMS
AI 导读
针对大语言模型(LLM)自回归推理慢且昂贵的问题,System 1 模型通过单次前向传播直接输出结构化决策,实现亚秒级路由、门控与分类。 该论文提出了包含编码器分类器、奖励模型、非自回归决策引擎、对比决策模型和提取模型的五类分类体系,深入探讨了基于恰当评分规则与 RLCD 的校准理论。 指南还涵盖了 18 个应用领域,梳理了包含 70 多个开源模型复现的生态系统,并提供了运行代码与实践检查清单。
来源:arXiv · NLP · arxiv.org