跳到正文
arXiv · AI· Tran Nhat Khang Nguyen, Anh Nguyen, Obed Issakah, Janghoon Ock·· 3 小时前AI 评分20

大语言模型中官能团知识在表达前的结构化表征分析

Functional-Group Knowledge Is Structured in Language Models Before It Is Spoken

AI 导读

研究显示,通用大语言模型内部已按化学家族结构化编码官能团知识,即使未专门化学训练。 分析五款开源模型发现,中间层表征从跟踪提示词转向跟踪官能团;基础模型在92个分子测试中答对率仅58.5%,但其内部表示保留了化学意义模式,错误多为表达失败而非知识缺失。 这表明仅通过输出评估化学模型会低估其编码的化学信息,表征分析有助于区分知识缺乏与表达失败。

来源:arXiv · AI · arxiv.org