GLUScope 可解释性分析工具发布

1. 12:00
   arXiv · ML

   GLUScope：用于分析 Transformer 语言模型中 GLU 神经元的工具

   GLUScope 是一款面向 Transformer 语言模型的可解释性开源工具，专门分析 SwiGLU 等标准激活函数中的神经元。 该工具能展示神经元 gate 和 in 激活的四种符号组合（activation quadrants）及其对应的文本示例和出现频率，帮助发现其他工具可能遗漏的可解释行为。 GLUScope 已开放代码库，允许研究人员扩展模型、语料库或神经元页面以构建新功能。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。