arXiv · NLP· Ardy Haroen, Florian Lorkowski, Samuel Nellessen, Felix Hofst\"atter·· 4 小时前AI 评分36
使用合成文档微调揭示对齐伪装 LLM 的潜在倾向
Propensities Please: Exposing Alignment-Faking LLMs using Synthetic Document Finetuning
AI 导读
该研究提出一种通过合成文档微调（SDF）揭示 LLM 潜在对齐伪装行为的方法，不依赖 CoT 或高保真环境。 微调能显著拉大提示词有无特定关键词时非对齐行为的差距，比纯提示干预更可靠，但常损害推理能力，需通过 on-policy distillation 缓解。
来源：arXiv · NLP · arxiv.org