arXiv · AI· Pengrun Huang, Yiwei Fu, Luoxi Meng, Kamalika Chaudhuri·· 1 天前AI 评分35
InferPriv：评估LLM助手的推断隐私泄露基准
InferPriv: Evaluating Inferential Privacy Leakage in LLM Assistants
AI 导读
InferPriv基准显示，LLM助手的推断隐私泄露率远超直接泄露率。在隐私感知系统提示下，GPT-6.1-Sol等模型直接泄露率近零，但推断泄露率仍达16.2%至25.2%。 仅评估显性泄露会严重低估大语言模型代理在处理日常任务时向第三方接收者泄露敏感用户信息的隐私风险。
来源：arXiv · AI · arxiv.org