arXiv · AI· Anna Yoo Jeong Ha, Ronik Bhaskar, Haitao Zheng, Ben Y. Zhao·· 2026-10-05AI 评分34
使用Whiteout缓解LLM中的隐私数据泄露
Mitigating Private Data Leakage in LLMs with Whiteout
AI 导读
论文提出名为Whiteout的工具,通过精确的混淆样本覆盖个人敏感信息(PSI),防止LLM在响应中泄露真实隐私,效果优于现有方法,且对模型效用与安全影响可忽略。 该工具在多个现代LLM上进行了测试,包括一个广泛使用的OpenAI模型,并验证了其在对抗越狱、再学习等多种攻击下的有效性。 研究讨论了Whiteout的安全与伦理影响,为隐私保护提供了一种实际可行的替代方案。
来源:arXiv · AI · arxiv.org