arXiv · ML· Adrians Skapars, Edoardo Manino, Youcheng Sun, Lucas C. Cordeiro·· 8 小时前AI 评分21
逆向语言模型输出：SODA 算法重构文本输入
GPT, But Backwards: Exactly Inverting Language Model Outputs
AI 导读
提出名为 SODA 的白色盒算法，可从部分输出知识重构文本输入，在 0 假阳性前提下将精确匹配重构能力提升 4 倍。 算法支持 33M 至 3B 参数模型，证明输入长度与词表大小比参数数量更关键。 应用于安全场景，可在 1000 次迭代内从中毒模型恢复 6 个后门触发器及 139 个 PII token。
来源：arXiv · ML · arxiv.org