安全探针缩放定律研究发布

1. 12:00
   arXiv · NLP

   安全探针的缩放定律

   研究者提出了安全探针的性能缩放定律，表明探针误差遵循两条简单规律，可由模型规模和标签数量提前预测。在六组新建数据集、20 个基础模型及 32 至 10^6 标签规模的实验中，该定律在 72% 的情形下能预测更大模型的误差（误差 0.02 以内），并在 73% 的情形下能正确判断增加标签或增大模型哪一种更经济。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。