跳到正文
arXiv · ML· Thomas Fel, Matthew Kowal, Matt Feiszli, Satchel Grant, Andrew Lee, Chris Earls, Fatih Dinc, Vasudev Shyam, Usha Bhalla, Leon Bergen, Siddharth Boppana, Ching Fang, Michael Byun, Tristan Gallent, Nicholas Wang, Tal Haklay, Dron Hazra, Neehar Kondapaneni, Connor Watts, Ryan Panwar, Thomas Dooms, Jack Merullo, Atticus Geiger, Ekdeep Singh Lubana, Thomas McGrath, Owen Lewis·· 14 天前AI 评分42

Mechanistic Shaping 提出通过内部表征塑造与监控模型

Shaping & Monitoring Models through their Internal Representations

AI 导读

该研究提出 Mechanistic Shaping 框架,通过内部表征塑造模型行为,在高达 32B 参数的规模下减少目标行为且保留任务性能。 框架涵盖视觉、医疗影像及语言领域,支持 SFT、DPO 和 GRPO 训练范式。研究引入监控层级,发现重新拟合线性探针大多能恢复被塑造的概念。 这表明可解释性可作为训练工具,推动基于可解释性的训练科学发展。

来源:arXiv · ML · arxiv.org