跳到正文
arXiv · NLP· Fengming Liu, Mingyu Shu·· 3 天前AI 评分45

DeBERTa 嵌入余弦相似度主要反映文本长度而非同质化

Embedding Cosine Measures Text Length Before It Measures Homogenization

AI 导读

研究发现,基于 DeBERTa 的嵌入余弦相似度主要追踪文本长度而非同质化。在 606 万条 Reddit 评论中,截断长度使均值增加八倍,随机替换复现 81% 的非对称性。 控制长度后,政治阵营间收敛在 ChatGPT 前停止;跨阵营回复的针对性比同阵营更强。

来源:arXiv · NLP · arxiv.org