LessWrong · All Posts· crabbix·· 14 天前AI 评分40
GPT-6-Astra 如何从神经网络权重中直觉化“读取”游戏与扩散模型特征
Humans can (almost) natively read neural network weights
AI 导读
GPT-6-Astra 通过对神经网络权重进行静态分析,能直觉推断网络功能。 实验显示,4个训练于不同游戏的大小相同网络,其首层权重按通道平均后的热图足以识玩游戏;12x12px 灰度去噪扩散模型亦可在无运行、无工具条件下被分析。 作者认为这更多体现数值整体感而非机制理解,质疑该模型真能“原生阅读”权重。
来源:LessWrong · All Posts · lesswrong.com