跳到正文
arXiv · AI· Chung-Wei Victor Yuan·· 17 天前AI 评分27

ECR 实现紧凑语言模型持久语义路由的嵌入一致性调节

Embedding Consistency Regulation for Persistent Semantic Routing in Compact Language Models

AI 导读

ECR 通过冻结嵌入模型生成短离散前缀,实现 99.93% ± 0.12% 语言路由准确率,显著优于 34-36% 的随机控制基线。 该指标无法被似然(NLL)可靠捕获,且路由可恢复性在多语言、无监督分区及低精度场景中依然保持。 研究确立了路由持续性作为独立于任务性能和似然的显著且可测量属性。

来源:arXiv · AI · arxiv.org