arXiv · NLP· Rhea Sanjay Sukthanker, Pashmina Cameron·· 3 小时前AI 评分36
ThinkBit: 面向推理保持的严格标量 2-bit 量化框架
ThinkBit: Search Codewords, Recalibrate Scales, Select by Reasoning
AI 导读
ThinkBit 是一种专为保留推理能力设计的 2-bit 量化框架，在 Qwen3-1.7B 模型上 MATH-500 得分 46.7，显著高于 EfficientQAT 的 30.0。
来源：arXiv · NLP · arxiv.org