LoL动态层序架构论文发布

2026年11月3日，Abdellah Rahmani等人在arXiv发表cs.AI领域论文，提出Library of Layers (LoL) 架构。该架构在推理时动态排序 Transformer 层，旨在统一参数复用与稀疏性，实现模型层序执行不同策略。 论文指出，LoL 使用单超参数控制全局层库大小。在文本预训练任务中，其性能可媲美 Dense、循环及 MoE 基线模型。研究还证明该模型可通过路由探针，以高 AUROC 值区分安全与不安全文本，验证了动态层序在执行特定策略方面的有效性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。