arXiv · ML· Jes\'us S\'anchez Ochoa, Enrique Tom\'as Mart\'inez Beltr\'an, Alberto Huertas Celdr\'an·· 16 小时前AI 评分29
SYNAPSE：用于序列编码中神经元分析与扰动的框架
SYNAPSE: Framework for Neuron Analysis and Perturbation in Sequence Encoding
AI 导读
提出 SYNAPSE 框架，一种无需重新训练的系统性方法，用于理解和压力测试 Transformer 模型内部行为。 该框架提取逐层 [CLS] 表示，训练线性探针获得神经元排名，并在推理时应用前向钩子干预。 SYNAPSE 揭示了内部表征的一致组织结构和功能稳定性，为开发更鲁棒和可解释的 Transformer 模型提供指导。
来源：arXiv · ML · arxiv.org