跳到正文
LessWrong · All Posts· CCaptainX·· 11 天前AI 评分36

GPT 6 Astra 与 Deepseek-V4.1-Flash 权重空间编程能力复现:分层策略揭示机制差异

What do LLMs Really Learn About Model Weights? A Stratification Approach to Examine Weight Space Programming

AI 导读

研究者复现权重空间编程实验,GPT 6 Astra 正确率 4/4,Deepseek-V4.1-Flash 为 3/4。 分层测试显示 Flash 依赖通道标签与提示元数据,移除标签后性能大幅下降;Astra 不受影响,且仅用首层或随机 1000 个权重值即可保持高准确率。 Astra 初步存活分层测试,表明其具备直接读取模型权重的能力,未观察到 Flash 类似的表现。

来源:LessWrong · All Posts · lesswrong.com