跳到正文
arXiv · AI· Chao Chen, Pengyang Shao, Wei Qin, Shijie Hao, Fei Shen, Richang Hong·· 21 天前AI 评分20

GOAL:基于表示与优化视角缓解大语言模型过度拒绝的新框架

Revisiting Over-refusal in Safety-aligned Large Language Models: A Representation and Optimization Perspective

AI 导读

GOAL通过梯度正交化与对比学习缓解LLM过度拒绝,在多个基准上有效保留安全性能。 研究发现有害样本梯度集中在低秩子空间且与拒绝目标梯度强对齐,导致模型过度拒绝;GOAL通过正交化去偏和增强表示分离解决此问题。

来源:arXiv · AI · arxiv.org