MIT 权重空间编程:GPT-6 修改 Qwen 权重提升数学成绩
先了解这件事
MIT CSAIL 研究人员 Takehi 于 11 月 2 日在博客发布“权重空间编程”研究。该方法让 GPT-6 Astra 直接读取、理解并修改另一神经网络权重,无需常规梯度下降训练流程,且 Astra 无法获取原模型的训练过程和梯度信息。 最新实验显示,Astra 仅修改 Qwen3.5-0.8B 中 0.016% 的权重,使其 MATH-500 数学成绩从 7.9% 提升至 48.1%(相当于 6 倍提升),指令遵循能力亦显著增强。MATH-500 成绩为每题采样 4 次后的平均值。 报道指出,该过程全程未使用训练和梯度下降,仅以“尽可能提高模型数学能力”为要求。在 MinAtar 实验中,Astra 从零生成的网络得分超过 PPO 基线 20 倍。
AI 根据报道生成 · 35 分钟前更新
报道时间线
沿着报道,了解事件的不同侧面。
- IT之家MIT 研究者提出「权重空间编程」:GPT-6 Astra 修改 Qwen3.5-0.8B 权重,数学成绩提升至 6 倍
MIT CSAIL 研究人员提出「权重空间编程」方法,让 GPT-6 Astra 直接修改 Qwen3.5-0.8B 的神经网络权重以提升数学能力。
- 量子位MIT 实验:GPT-6 Astra 通过权重空间编程直接修改 Qwen 权重提升数学能力
MIT 团队展示 GPT-6 Astra 可直接读取并编辑小模型权重,无需梯度下降即可提升性能。实验中 Astra 修改 Qwen3.5-0.8B 仅 0.016% 的权重,使其 MATH-500 得分从 7.9% 升至 48.1%,数学能力提升约 6 倍;在 MinAtar 实验中,Astra 从零生成的网络得分超 PPO 基线 20 倍。
- 机器之心精选MIT 展示 GPT-6 通过权重空间编程提升 Qwen 数学推理能力
MIT CSAIL 团队提出权重空间编程,利用 GPT-6 Astra 直接修改 Qwen3.5-0.8B 权重,在不使用梯度下降的情况下,将其 MATH-500 成绩从 7.9% 提升至 48.1%,指令遵循能力亦显著增强。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。