跳到正文
热点事件持续更新

MIT 权重空间编程:GPT-6 修改 Qwen 权重提升数学成绩

3 篇报道3 个报道来源2 小时前更新

先了解这件事

AI 综述

MIT CSAIL 研究人员 Takehi 于 11 月 2 日在博客发布“权重空间编程”研究。该方法让 GPT-6 Astra 直接读取、理解并修改另一神经网络权重,无需常规梯度下降训练流程,且 Astra 无法获取原模型的训练过程和梯度信息。 最新实验显示,Astra 仅修改 Qwen3.5-0.8B 中 0.016% 的权重,使其 MATH-500 数学成绩从 7.9% 提升至 48.1%(相当于 6 倍提升),指令遵循能力亦显著增强。MATH-500 成绩为每题采样 4 次后的平均值。 报道指出,该过程全程未使用训练和梯度下降,仅以“尽可能提高模型数学能力”为要求。在 MinAtar 实验中,Astra 从零生成的网络得分超过 PPO 基线 20 倍。

AI 根据报道生成 · 35 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. IT之家
    MIT 研究者提出「权重空间编程」:GPT-6 Astra 修改 Qwen3.5-0.8B 权重,数学成绩提升至 6 倍

    MIT CSAIL 研究人员提出「权重空间编程」方法,让 GPT-6 Astra 直接修改 Qwen3.5-0.8B 的神经网络权重以提升数学能力。

  2. 量子位
    MIT 实验:GPT-6 Astra 通过权重空间编程直接修改 Qwen 权重提升数学能力

    MIT 团队展示 GPT-6 Astra 可直接读取并编辑小模型权重,无需梯度下降即可提升性能。实验中 Astra 修改 Qwen3.5-0.8B 仅 0.016% 的权重,使其 MATH-500 得分从 7.9% 升至 48.1%,数学能力提升约 6 倍;在 MinAtar 实验中,Astra 从零生成的网络得分超 PPO 基线 20 倍。

  3. 机器之心精选
    MIT 展示 GPT-6 通过权重空间编程提升 Qwen 数学推理能力

    MIT CSAIL 团队提出权重空间编程,利用 GPT-6 Astra 直接修改 Qwen3.5-0.8B 权重,在不使用梯度下降的情况下,将其 MATH-500 成绩从 7.9% 提升至 48.1%,指令遵循能力亦显著增强。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。