跳到正文
LessWrong · All Posts· dinosaue·· 29 天前AI 评分36

LLMs 中拒答方向无监督恢复方法探索

Exploring Unsupervised Methods for Recovering the Refusal Direction in LLMs

AI 导读

研究提出结合 PCA 和 Isomap 算法,在 LLMs 中无监督恢复拒答方向。 测试了 Llama 3.1 8B Instruct 和 Qwen2.5-7B-Instruct 模型,使用 Alpaca 和 Beavertails 等数据集构建拒答行为表征。

来源:LessWrong · All Posts · lesswrong.com