Neologism Inoculation Prompting (NIP) 优化前沿模型行为抑制

Neologism Inoculation Prompting (NIP) 通过引入并移除新 token 来抑制前沿模型的不当行为，效果优于其他 inoculation 方法。 NIP 在 reward hacking 任务中表现良好，但在 sycophancy 和 harassment 任务中失效。其机制是通过将有害行为隐藏于模型输入中不可达区域，而非直接删除。