跳到正文
arXiv · AI· Kyle Elliott Mathewson·· 5 小时前AI 评分30

NLLB-200 多语言翻译模型编码器中的通用概念结构探测

Universal Conceptual Structure in Neural Translation: Probing NLLB-200's Multilingual Geometry

AI 导读

研究探测了 Meta 6 亿参数 NLLB-200 模型在 135 种语言中的编码器几何结构。 方差分析显示语言偏移解释了裸词 45.7% 的方差,概念分离在第 10 层达到峰值。 发布了交互式工具包 InterpretCognates 以支持可复现的研究。

来源:arXiv · AI · arxiv.org