arXiv · NLP· Jiashu Yang, Ningning Wang, Yian Zhao, Chaoran Feng, Junjia Du, Hao Pang, Miao Yu, Xuxin Cheng·· 4 小时前AI 评分23
Kongzi:融合事实增强与大语言模型的历史理解模型
Kongzi: A Historical Large Language Model with Fact Enhancement
AI 导读
提出历史语言模型Kongzi,结合持续预训练、监督微调及事实增强强化学习。 其事实性奖励通过知识图谱相似度比对生成内容中的实体与关系。 评估显示Kongzi-7B在三个LLM评审下获得最高历史准确性评分。
来源:arXiv · NLP · arxiv.org