GLUScope：用于分析 Transformer 语言模型中 GLU 神经元的工具

GLUScope 是一款面向 Transformer 语言模型的可解释性开源工具，专门分析 SwiGLU 等标准激活函数中的神经元。 该工具能展示神经元 gate 和 in 激活的四种符号组合（activation quadrants）及其对应的文本示例和出现频率，帮助发现其他工具可能遗漏的可解释行为。 GLUScope 已开放代码库，允许研究人员扩展模型、语料库或神经元页面以构建新功能。