跳到正文
Hacker News LLM· aymen1994·· 2 小时前AI 评分48

NeuronDump 本地 LLM 可视化裁剪工具发布

NeuronDump: Open a local LLM as a 3D graph, cut parts, see what breaks

AI 导读

NeuronDump 是一款开源工具,可读取 GGUF 格式模型并生成 3D 图,支持移除冗余部分以减小体积。 该工具兼容 Ollama 和 llama.cpp,提供 Web 界面,能展示层、注意力头等结构及重要性。 用户可安全裁剪模型并生成新 GGUF 文件,MIT 许可,适用于 Windows 和 Linux。

来源:Hacker News LLM · github.com