R/ArtificialInteligence· /u/Justgototheeffinmoon·2026-10-22 02:04· 1 天前AI 评分44

Nature 论文提出“字节化”技术：将 LLM 从子词 token 转为原始字节运行

Nature paper retrofits LLMs to run on raw bytes, not tokens

AI 导读

一篇 2026 年 10 月 7 日发表于 Nature 的论文提出“byteification”流程，将现有子词大模型转换为字节级模型。该方法仅在典型预训练预算的 1% 以内（总计 491 亿 token）完成转换。