Qrita采样算法发布，性能成vLLM默认选择
热点事件持续更新
Qrita采样算法发布，性能成vLLM默认选择
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Jongseok Park等研究者发布了Qrita，这是一种基于枢轴截断与选择的GPU高性能Top-k与Top-p采样算法，旨在优化大语言模型的推理过程。 该算法通过高斯截断缩小搜索空间，并利用四元枢轴搜索将迭代次数减半，在实现高效采样的同时保证了输出的确定性。 在性能测试中，Qrita与SGLang和FlashInfer等现有方案相比，端到端吞吐量最高提升1.4倍，内存占用减半。凭借这些优势，该算法目前已成为vLLM框架的默认采样器。
AI 根据报道生成 · 2 小时前更新
最新进展11月4日 13:00
Qrita: 基于枢轴截断与选择的 GPU 高性能 Top-k 与 Top-p 算法报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- arXiv · AIQrita: 基于枢轴截断与选择的 GPU 高性能 Top-k 与 Top-p 算法
Qrita 利用枢轴搜索实现高效 Top-k 和 Top-p 采样，显著提升 LLM 服务吞吐。 通过高斯截断减少搜索空间，四元枢轴搜索减半迭代并保证确定性输出。 相比 SGLang 和 FlashInfer，端到端吞吐最高提升 1.4 倍，内存占用减半，已成为 vLLM 默认采样器。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 911月4日 18:00
- 近 24 小时变化
- –
02.557.510
18:0019:0020:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。