arXiv · NLP· Guillem Ram\'irez·· 13 小时前AI 评分33
SALT 方法提升跨语言 Token 表示
Improving Cross-Lingual Token Representations by Adding a Pinch of SALT
AI 导读
SALT 通过在现有句子编码器中注入 span-level 监督,显著改进 token 表示。 该方法在五项多语言 token 级基准测试中取得了其中四项的最佳结果,优于微调策略。 同时它也提升了跨语言检索和分类任务的句子级表现。
来源:arXiv · NLP · arxiv.org