LLMs 内部表示中的法律因素定位研究

研究表明，Qwen3-1.7B、Qwen3-8B 和 Gemma-2 2B 三个开源模型内部均可线性解码出全部 26 个 CATO 法律因素。 实验通过稀疏自编码器定位单特征读出，最佳层测试 AUC 介于 0.86 至 1.00 之间，5 个选定特征性能接近完整向量读出。 该结果证实了专家定义的法律因素信息存在于 LLM 处理法律叙事的内部激活中，建立了法律语言与内部表示的联系。