arXiv · AI· Mahendra Roopa, Srikanth Roopa·· 4 小时前AI 评分30
面向托管 Qwen3.8-27B 模型的隐私保护推理：一种学习式输入嵌入变换
Privacy-preserving inference on hosted models: a learned input-embedding transform for frozen Qwen3.8-27B
AI 导读
该研究提出一种隐私保护推理方案，让客户端本地将文本转化为向量并经 55.6M 参数小网络变换后发送给托管端，托管端运行冻结的 Qwen3.8-27B 模型且不接触原始文本或 token id。 在 1,490 道 MMLU 题目上，该变换导致准确率下降 1.5 个点（从 82.3% 降至 80.7%），并使 30.1% 的内容 token 在最近邻查找下无法还原为原始 token。
来源：arXiv · AI · arxiv.org