跳到正文
Hacker News AI· sroussey·· 7 天前精选AI 评分93

Edge0 开源 145B 端侧模型,支持笔记本本地推理

Edge0-145B: Frontier AI Capabilities on Your Own Computer

AI 导读

Edge0 开源了 Edge0-145B 和 Edge0-120B 模型及统一推理框架,称其为全球首个可运行在个人计算机上的 145B 参数开源端侧模型。

推荐理由

原文给出了端侧大模型的关键性能数据和全栈开源细节,读者可以据此判断本地运行 145B 模型的可行性边界。

来源:Hacker News AI · edge0.ai