Hacker News LLM· jacquesm·· 2026-10-05AI 评分71
VHDL FPGA LLM推理引擎实现Qwen3.5类模型推理
Full-fabric VHDL LLM inference engine. Runs Qwen3.5-class transformer inference
AI 导读
GitHub开源项目llm.vhdl发布完整FPGA fabric VHDL LLM推理引擎,支持Qwen3.5 9B单卡和27B双卡部署。引擎实现INT4流式矩阵向量乘、Gated DeltaNet线性注意力和门控全注意力,权重驻留在板载8GiB HBM中,输出经llama.cpp BF16 GGUF验证。
来源:Hacker News LLM · github.com