跳到正文
arXiv · AI· Huiyu Xie, Tanping Zhou, Tao Hu, Xinlei Liu, Hailong Ma·· 10 天前AI 评分26

VeilTune:基于安全多方计算保护 LoRA 适配器的公开预训练模型微调协议

VeilTune: Secure Fine-Tuning of Private LoRA Adapters on Public Pretrained Language Models

AI 导读

VeilTune 提出首个基于安全多方计算(MPC)的 LoRA 适配器安全微调协议,兼顾数据方样本与提供方适配器的隐私保护。 通过引入训练感知非线性算子及无感知截断失败跳过机制,协议仅计算损失依赖值。 在 RoBERTa-large 的四个少样本任务上,其平均准确率比 SecP-Tuning 高 5.3 点,SST-2 任务实现 3.5x 端到端加速。

来源:arXiv · AI · arxiv.org