arXiv · NLP· Ahmet Yavuz Uluslu, Mark Gales, Kate Knill, Gerold Schneider·· 9 小时前AI 评分26
利用 LLM Token 概率从 L2 英语推断 L1 背景
Inferring L1 Backgrounds from L2 English with LLM Token Probabilities
AI 导读
研究提出基于 LLM token 概率的方法，通过指定候选 L1 前缀对文本评分来推断母语背景。 该方法在 TOEFL9 等三个数据集上使用 Llama 3.1 8B 和 70B 模型进行评估，结果显示 token 概率评分显著优于直接分类，其中 70B 模型在所有数据集上均达到 SOTA 性能。 这表明预训练 LLM 的 token 概率包含可用于区分 L2 英语生产中 L1 背景的信息。
来源：arXiv · NLP · arxiv.org