研究团队提出自动发现带有意外副作用的训练数据集方法

语言模型训练数据在域外行为中存在意外副作用，现有孤立样本少导致理解泛化困难。研究人员提出自动发现带有意外副作用的数据集（DSSE）的方法，该数据集需激发目标行为、看似普通后置训练数据且让审核者感到惊讶。