跳到正文
arXiv · AI· Maryam Rezaee, Pooriya Safaei, Maryam Asgarinezhad, Fatemeh Seyyedsalehi·· 10 天前AI 评分27

基于能量模型代理的黑盒 LLM 输出句子级归因

Sentence-Level Attribution for Black-Box Large Language Model Outputs via Energy-Based Surrogates

AI 导读

该研究针对黑盒 API 场景,提出一种基于 Transformer 能量模型(EBM)代理的模型无关事后归因解释器。 训练后的解释器独立运行,无需运行时 API 查询即可估算提示词对输出句子的影响。 该方法实现了参数高效的 O(1) 推理,归因质量与竞争基准相当。

来源:arXiv · AI · arxiv.org