Hacker News LLM· leochong·· 2026-10-13AI 评分28
Show HN: Reflex – 一款原生支持 GGUF 的 Rust/CUDA 引擎,实现 LLM 零规模路由
Show HN: Reflex – A GGUF-native Rust/CUDA engine for scale-to-zero LLM routing
AI 导读
Reflex 是一款原生支持 GGUF 的 Rust/CUDA 引擎,旨在实现 LLM 的零规模(scale-to-zero)路由。 其核心特性在于基于 Rust 和 CUDA 架构,直接处理 GGUF 格式模型。
来源:Hacker News LLM · console.runpod.io