跳到正文
arXiv · ML· Bat-Sheva Einbinder, Hen Davidov, Yee Whye Teh, Yarin Gal, Yaniv Romano·· 11 小时前AI 评分20

Value-Filtered Decoding 实现选择性安全引导

Selective Safety Steering via Value-Filtered Decoding

AI 导读

Value-Filtered Decoding 通过值基础安全准则过滤 token,减少不必要的干预并提升回复安全性。 该方法提供误干预概率的显式界限,单一阈值超参数控制该界限,在多个数据集上优于现有基线。 实现了安全性、有用性与基础模型相似度之间的更好权衡。

来源:arXiv · ML · arxiv.org