IT之家·· 14 小时前AI 评分58
谷歌 DeepMind 工程师在办公打印机上运行 2.7 亿参数 Gemma 3 模型,每词元耗时约 60 秒
约 14MB 内存运行 2.7 亿参数模型:谷歌工程师把 AI 装进打印机,每词元耗时约 60 秒
AI 导读
谷歌 DeepMind 工程师 Omar Sanseviero 借助 Gemini 4 Carbon,将 2.7 亿参数的 Gemma 3 模型编译为 PostScript 任务,成功在理光办公打印机上执行推理。该实验未修改打印机固件,仅利用内置 PostScript 解释器和动态层加载技术运行模型,峰值内存占用约 14.1MB,生成速度约为每词元 60 秒,预填充阶段耗时约 184 秒。
来源:IT之家 · ithome.com