跳到正文
Hacker News AI· giovanniwants·· 3 小时前AI 评分21

本地 AI 应用 Yanah 实现 80B 模型在 8GB Mac 上的运行

Local AI app that runs an 80B model on an 8GB Mac

AI 导读

本地 AI 应用 Yanah 允许在 8GB 内存的 Mac 上运行 80B 参数模型,数据完全本地存储。 无需互联网即可聊天,模型文件小于 50GB,利用新技术在普通 Mac 上达到聊天速度。 实现无订阅、无数据收集的私有化部署,降低环境影响并普及大模型使用。

来源:Hacker News AI · yanahchat.com