arXiv · ML· Xinyao Song, Jialiang Shen, Hui Kang, Huajie Chen, Ruiqi Liu, Jiyang Zheng, Huaxi Huang, Zhenliang Lu, Chris Russell, Runqi Lin·· 7 天前AI 评分37
SAME: 面向开源大预训练模型的语义水印嵌入方法
SAME: Semantic Watermark Embedding for Open-Source Large Pretrained Models
AI 导读
针对开源大预训练模型(LPM)易被擅自修改且现有触发式水印在微调下易失效的问题,提出语义水印嵌入方法 SAME。 SAME 引入固定私有词表,为每个原生 token 分配对应的私有嵌入,并在表示空间中对齐两者语义,使私有 token 可灵活组合成语义触发器。该方法将水印与模型语义能力耦合,使其在下游微调后仍保留,实验表明其在不同规模和架构的 LPM 上均能提供鲁棒的版权验证。
来源:arXiv · ML · arxiv.org