arXiv · AI· Thanh Q. Tran, John Russell Himawan, Arun Verma, Kiwan Wong, Wei Xiao, Daniela Rus, Bryan Kian Hsiang Low·· 4 小时前AI 评分33
DIAL:具备蒸馏指令遵从等级的可操控语言模型
DIAL: Steerable Language Models with Distilled Instruction-Adherence Levels
AI 导读
研究提出 DIAL 框架,通过冻结 LLM 进行无分类器引导(CFG)及轻量级自适应器,实现对 LLM 指令遵从度的细粒度、高效且可扩展控制。 该框架利用隐藏状态分类器计算闭式编辑并自适应设定每 token 引导幅度;基于含 98,625 条指令的 SteerIF 数据集训练后,概念分数随遵从等级单调增加,在概念表达与流畅度间取得平衡。
来源:arXiv · AI · arxiv.org