LessWrong · All Posts· Brendan Long·· 6 天前AI 评分33
通过屏蔽随机数损失微调模型改变其报告的首选动物
Instilling Behavior by Not Training on Specific Random Numbers
AI 导读
研究显示,通过在预测均匀随机数时选择性屏蔽部分损失,可改变大语言模型报告的首选动物。该现象在将多位数作为单个 token 处理的模型上效果最佳。不同模型甚至不同随机种子下,起作用的数字组合各异。这是关于 token 级影响函数的初步研究笔记。
来源:LessWrong · All Posts · lesswrong.com