Hacker News LLM· joshcsimmons·· 3 小时前AI 评分43
QwenPU：在 LLM 权重内运行的 RISC-V 处理器
QwenPU: An LLM running inside another LLM's weights
AI 导读
QwenPU 是在 Qwen3.5-4B 权重中编译了 32 位 RISC-V CPU 和向量单元的模型，可在其内部运行其他神经网络。 基准模型为 Qwen3.5-4B，新增 13 层计算层，总参数量 26.7 GB，支持在 40 GB 以上 GPU 加载完整模型。 该实验展示了模型内运行独立程序的可行性，未来通过裁剪隐藏层可进一步减小模型体积。
来源：Hacker News LLM · huggingface.co