Hacker News LLM· eaxitect·· 8 天前AI 评分37
W-ISA v0.1.0 发布:面向 LLM 权重编程的指令集
Show HN: W-ISA – An instruction set for programming LLM weights
AI 导读
W-ISA v0.1.0 提供一种无梯度的可逆权重编辑工具,支持在 CPU、Apple Silicon 和 CUDA 上运行本地语言模型。 该工具包含 JSON 指令格式、编译器及 Python 运行时,默认加载 Qwen2.5-0.5B-Instruct,通过 torch.no_grad() 冻结模型并执行确定性线性代数操作。
来源:Hacker News LLM · github.com