arXiv · ML· Mohammad Siavashi, Pascal Schwinte, Ali Banaei, Gerald Q. Maguire Jr., Marco Chiesa, Dejan Kosti\'c·· 2026-10-12AI 评分36
GraphTok:面向智能体 LLM 服务场景的 GPU Tokenizer
Taking Tokenization off the Host for Agentic LLM Serving
AI 导读
summary_zh: GraphTok 是一种 GPU Tokenizer,将编码流程作为可重放的 CUDA 图运行,能精确复现 GPT-2、Llama 3、Qwen 2.5、DeepSeek-V3 和 Gemma 3 的参考 Token ID。
来源:arXiv · ML · arxiv.org