跳到正文
arXiv · ML· Manit Baser, Alperen Yildiz, Dinil Mon Divakaran, Mohan Gurusamy·· 14 天前AI 评分30

CLaRE 量化表征纠缠以预测 LLM 编辑涟漪效应

CLaRE-ty Amid Chaos: Quantifying Representational Entanglement to Predict Ripple Effects in LLM Editing

AI 导读

CLaRE 提出轻量级表征层技术,通过前向激活量化事实间纠缠,平均提升 62.2% Spearman 相关系数且速度提升 2.7 倍。 CLaRE 避免耗时的反向传播,峰值 GPU 内存减少 2.85 倍,仅需少量存储空间即可计算并保留事实表征。 纠缠图谱和语料库可用于构建更强的模型编辑保留集、审计追踪及高效红队测试,相关文件已开源。

来源:arXiv · ML · arxiv.org