跳到正文
arXiv · ML· Mohammad Siavashi, Pascal Schwinte, Ali Banaei, Gerald Q. Maguire Jr., Marco Chiesa, Dejan Kosti\'c·· 2026-10-12AI 评分36

GraphTok:面向智能体 LLM 服务场景的 GPU Tokenizer

Taking Tokenization off the Host for Agentic LLM Serving

AI 导读

summary_zh: GraphTok 是一种 GPU Tokenizer,将编码流程作为可重放的 CUDA 图运行,能精确复现 GPT-2、Llama 3、Qwen 2.5、DeepSeek-V3 和 Gemma 3 的参考 Token ID。

来源:arXiv · ML · arxiv.org