跳到正文
arXiv · AI· Okan S. Coskun, Florian Rottach, Carsten Eickhoff, William Rudman·· 7 天前AI 评分21

各向同性悬崖:大语言模型决策的几何特征

Isotropy Cliffs: The Geometric Signature of Decision-Making in Large Language Models

AI 导读

研究通过各向同性视角分析五个开源权重模型在多选问答(MCQA)中的决策几何结构。识别出由各向同性转变和任务相关簇出现所构成的决策关键转换层,该同步几何行为与下游准确率呈强相关($r\approx0.84$),且在提示词变化下保持稳健。

来源:arXiv · AI · arxiv.org