arXiv · NLP· Artem Suslov, Takehiro Hashimoto·· 7 小时前AI 评分23
利用 Gemma 4 31B 标注蒸馏构建用于文学情感分析的有序 BERT 模型
Distilling Literary Sentiment from LLM Annotations into an Ordinal BERT Model
AI 导读
研究利用 Gemma 4 31B 标注的 10,889 个文学句子，通过有序回归微调 BERT 模型进行情感分析。 在 1,923 个人工标注句子测试中，BERT-base 在非中性句子的 MAE 为 0.726，优于教师模型（1.116），而 BERT-large 的 Kendall's τ 达 0.589。 验证了 LLM 生成监督在开发小型文学情感分析模型上的潜力。
来源：arXiv · NLP · arxiv.org