跳到正文
arXiv · AI· Dongyue Li, Zebang Cheng, Zhongyi Deng, Hongboxu, Yi Bin, Fei Ma·· 5 小时前AI 评分22

RPSD:利用最优传输实现检索特权在线策略自蒸馏

RPSD: Retrieval-Privileged On-Policy Self-Distillation with Optimal Transport

AI 导读

针对 LLM 序列推荐中的优化盲点,RPSD 通过在线策略自蒸馏(OPSD)和跨用户行为证据,在多个真实数据集上达到最先进性能。 方法引入时序感知最优传输(OT)比较用户交互轨迹,并结合多样性感知选择保留互补轨迹作为特权证据,解决单用户监督忽略共享行为模式的问题。

来源:arXiv · AI · arxiv.org