跳到正文
arXiv · AI· Boqi Chen, Aren A. Babikian, Jos\'e Antonio Hern\'andez L\'opez·· 16 小时前AI 评分29

MeMoDecode:用于一致DSL生成的元模型引导LLM解码框架

Metamodel-Guided LLM Decoding for Consistent DSL Generation

AI 导读

MeMoDecode框架通过联合执行具体语法、抽象语法及良构约束,解决了现有约束解码难以保证元模型级一致性的问题。 该框架在检测到不一致时从最近可完成快照恢复解码,并结合重试机制运行。在跨四个DSL及0.6B至70B参数规模的六款开源LLM测试中,MeMoDecode比无约束解码平均提升23%一致性,比语法约束解码提升8%。

来源:arXiv · AI · arxiv.org