跳到正文
arXiv · ML· Omkar Shrikanth, Soham Dambalkar, Parag Jyoti Pal, Advik Raj Basani, Arnab K. Paul·· 13 小时前AI 评分27

联邦学习中窃取其他客户端精确训练数据的新型梯度反转攻击

Stealing Exact Training Data from Other Clients during Federated Learning

AI 导读

恶意攻击者可通过迭代式梯度反转攻击,在联邦学习中精确恢复其他客户端的文本数据,实现首次100%精度的句子级窃取。 在包含多达模型隐藏维度4倍Token量的聚合更新中,该攻击可精确恢复多达80.2%的客户端句子,而现有方法无法精确恢复任何句子。 该攻击证明了联邦学习中FedAvg聚合机制在文本隐私保护方面的脆弱性,为分布式机器学习安全带来新威胁。

来源:arXiv · ML · arxiv.org