跳到正文
LessWrong · All Posts· Brendan Long·· 6 天前AI 评分33

通过屏蔽随机数损失微调模型改变其报告的首选动物

Instilling Behavior by Not Training on Specific Random Numbers

AI 导读

研究显示,通过在预测均匀随机数时选择性屏蔽部分损失,可改变大语言模型报告的首选动物。该现象在将多位数作为单个 token 处理的模型上效果最佳。不同模型甚至不同随机种子下,起作用的数字组合各异。这是关于 token 级影响函数的初步研究笔记。

来源:LessWrong · All Posts · lesswrong.com