The Token Before the Value Is the Key：利用混合语言模型揭示 Induction 电路中的历史源密钥机制

研究利用混合语言模型作为测试平台，识别出“历史源密钥”是连接局部准备与全局检索的通用因果接口。 探针与恢复干预在控制型模型及发布的语言模型间连接了该接口，分析围绕地址上下文半径与顺序检索深度展开。 结果揭示了电路形成、上下文消歧及顺序使用如何通过共享检索接口进行连接，相关代码已开放获取。