跳到正文
LessWrong · All Posts· Alexandre Variengien·· 4 小时前AI 评分41

LLM 自我模型如何基于间接来源构建

LM self-models are built from indirect sources

AI 导读

语言模型在无系统提示词时依赖零样本知识构建自我认知。这种认知源自间接来源:宪法文档、思维链(CoT)中的肌肉记忆或关于大语言模型(LLM)的通用事实。尽管 Claude 模型共享相同的宪法,但表现出的个性差异显著。在思维链中观察自身倾向虽比零样本来源更直接,但这类自我观察资源稀缺且分散,尚未整合成连贯的自我叙事。

来源:LessWrong · All Posts · lesswrong.com