Hacker News LLM· pathmap·· 11 天前AI 评分61
BYOBrain:一种用于本地LLM存储共享的开放网络协议
I made an open-web protocol for local LLM storage sharing
AI 导读
作者发布了BYOBrain协议及SDK,旨在让本地LLM在浏览器端运行并实现本地存储共享。指南强调非阻塞设计原则,即游戏必须100%可玩且不等待AI响应。文档展示了如何使用BYOB-web-sdk-v2.js挂载连接UI,并通过Promise.race实现带超时和取消功能的请求包装,以应对端侧硬件性能差异。
来源:Hacker News LLM · joshuadd79.github.io