跳到正文
arXiv · NLP· Jize Jiang, Chengxiang Zhai·· 8 小时前AI 评分23

基于胜任力的逻辑推理评估方法在 LLM 中的应用

Competence-Based Evaluation of Logical Reasoning in Large Language Models

AI 导读

提出基于胜任力评估(CBE)范式,以参数化生成器固定核心能力、变换呈现形式,量化 LLM 逻辑推理泛化性能。 在 GPT 和 Qwen 六款模型测试中,强模型在复杂任务族下仍无法满足胜任力条件;引入 CoT 和 GRPO 可部分缓解,但 LoRA 微调泛化有限。

来源:arXiv · NLP · arxiv.org