跳到正文
热点事件持续更新

QwenPU:在 LLM 权重内运行 RISC-V 处理器

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

QwenPU 是基于 Qwen3.5-4B 构建的实验模型,将 32 位 RISC-V CPU 及向量单元直接编译至模型权重中,实现于 LLM 内部运行其他神经网络程序。 该模型新增 13 层计算层,总参数量达 26.7 GB。早先报道称需 40 GB 以上 GPU 加载完整模型,后续报道称在故事演示及校验运行中,其计算层可独立运行并适配 24 GB GPU。 项目采用 Apache-2.0 开源协议,且明确不修改 Qwen 原有权重。此举展示了模型内运行独立程序的可行性,未来可通过裁剪隐藏层进一步优化体积。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月1日
  1. Hacker News LLM
    QwenPU:在 LLM 权重内运行的 RISC-V 处理器

    QwenPU 是在 Qwen3.5-4B 权重中编译了 32 位 RISC-V CPU 和向量单元的模型,可在其内部运行其他神经网络。 基准模型为 Qwen3.5-4B,新增 13 层计算层,总参数量 26.7 GB,支持在 40 GB 以上 GPU 加载完整模型。 该实验展示了模型内运行独立程序的可行性,未来通过裁剪隐藏层可进一步减小模型体积。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。