arXiv · NLP· Sourabh Kasliwal, Shubhranshu Singh·· 2026-10-08AI 评分26
LLM蒸馏下多标签主题分配:生成式与判别式学生模型对比分析
Multi-Label Topic Assignment via LLM Distillation: A Comparative Analysis of Generative vs. Discriminative Student Models
AI 导读
对比1B、4B、8B参数规模,生成式模型在处理多轮对话数据时性能优于DeBERTa-V3等判别式基线。 在扩展到112个主题及长尾分布时,判别式模型Macro-F1下降35%,而生成式模型保持稳健表现。 已在全球电商平台生产环境部署,实现低延迟与显著业务影响。
来源:arXiv · NLP · arxiv.org