Value Probes：用于 Beam-Search 红队测试的习得价值函数

研究者提出 Value Probes 方法，利用线性探测估计审计过程中的价值函数，显著提升了语言模型红队测试效率。 该方法在 18 种目标行为和 3 种模型规模下，使峰值审计分数比标准方法提高约 50%，且可使用小模型的离策略数据进行拟合。 Value Probes 提供了一种比昂贵的语言模型跟进更高效的替代方案，有助于改进语言模型审计并促进更安全的模型开发。