arXiv · NLP· Junmo Cho, Suhan Kim, Sangjune An, Minsu Kim, Dong Bok Lee, Heejun Lee, Sung Ju Hwang, Hae Beom Lee·· 4 小时前AI 评分33
GFlowPO: 将生成流网络用作语言模型提示词优化器
GFlowPO: Generative Flow Network as a Language Model Prompt Optimizer
AI 导读
GFlowPO提出一种概率提示词优化框架,将提示词搜索转化为潜在提示词的后验推断问题,并整合元提示词参考大语言模型先验。 第一步微调轻量级提示词语言模型,采用基于重放的非策略生成流网络目标以提升样本效率;第二步引入免训练动态记忆更新机制,通过重放缓冲区和优先队列更新元提示词。 在少样本文本分类、指令归纳基准和问答任务中,GFlowPO的表现始终优于近期的离散提示词优化基线。
来源:arXiv · NLP · arxiv.org