跳到正文
arXiv · ML· Shashie Dilhara Batan Arachchige, Robin Carpentier, Hassan Jameel Asghar, Dali Kaafar·· 2026-10-07AI 评分30

SpliTEE: 结合 GPU 辅助 TEE 与差分隐私实现快速且私密的 LLM 推理

SpliTEE: Fast and Private LLM Inference by Coupling GPU-Assisted Trusted Execution Environments with Differential Privacy

AI 导读

该研究提出 SpliTEE,将 TEE 与差分隐私结合以加速 LLM 隐私推理。 利用 Llama-3.2-3B 和 Qwen3-4B 在 Intel TDX 上实现,速度接近全 TDX 推理的两倍,最高比 Slalom 快 43% 且精度更高。 避免了量化,保持模型在浮点域运行,确保响应质量不变。

来源:arXiv · ML · arxiv.org