arXiv · AI· Qi Xu, Zhigang Hua, Zijie Lei, Yan Xie, Jizhe Zhang, Lynn Lu, Delun Du, Sha Hua, Ren Mao, Ke Pan, Haomin Yu, Sandeep Pandey, Luke Simon·· 8 小时前AI 评分23
MIS 单步推理实现高效全页排序
Towards Efficient Whole Page Ranking with One-Pass Inference
AI 导读
提出前缀感知非自回归框架 MIS，在 KuaiRand-1K 数据集上 CPU 解码速度较自回归基线快 4.07 倍，生成质量接近 CGA 基线。 该框架整合全局候选交互与局部前缀条件，通过计算可复用表示减少重复全模型推理，实现高效排序。 在大规模社交视频平台随机评估中，MIS 使实现指标提升 0.104%，观看时间增加 0.058%，并将排序服务 CPU 消耗降低 9.73%。
来源：arXiv · AI · arxiv.org