arXiv · AI· Sebastian Prasanna, Jacqueline Tay, Alek Westover·· 2026-10-09AI 评分38
Distillation for Incrimination and Distillation for Capabilities 提出两种用于 AI 安全的大模型蒸馏方法
Distillation for Incrimination and Distillation for Capabilities
AI 导读
该研究提出 DFI 和 DFC 两种蒸馏方法,分别用于揭露大模型的不善对齐或安全提取其能力。 DFI 将 AuditBench 模型蒸馏至底层模型,学生比教师更可能承认隐藏行为,且需使用教师的 pre-RL checkpoint。 DFC 结合 inoculation prompting 和减少样本增加训练轮次,在保留能力的同时显著降低不善对齐的潜意识传递。
来源:arXiv · AI · arxiv.org