arXiv · AI· Zichuan Fu, Xian Wu, Jingtong Gao, Wenlin Zhang, Jiaxuan Li, Binhao Wang, Yimin Deng, Guojing Li, Xiaopeng Li, Derong Xu, Yefeng Zheng, Xiangyu Zhao·· 13 小时前AI 评分24
LLM 功能性“求知感”（FoK）对齐与训练框架
Feeling of Knowing in Large Language Models
AI 导读
研究发现大语言模型（LLM）的后训练可能导致知识判断错位，因此提出了功能性“求知感”（FoK）对齐机制。 该机制包含知识通道与 FoK 通道，通过 OP-SFT、K$\Delta$-FT 和 FGPO 三阶段训练。 实验表明，显式 FoK 对齐提升了更新知识后的判断质量，且通过了 MMLU 和 ARC-Easy 测试。
来源：arXiv · AI · arxiv.org