arXiv · NLP· Liang Shan, Kaicheng Shen, Wen Wu, Zhenyu Ying, Chaochao Lu, Yan Teng, Jingqi Huang, Qingshan Liu, Guoqing Wang, Jie Zhou, Liang He·· 4 小时前AI 评分40
MENTOR：通过元认知驱动自进化框架识别与缓解LLM中的隐式领域风险
MENTOR: A Metacognition-Driven Self-Evolution Framework for Uncovering and Mitigating Implicit Domain Risks in LLMs
AI 导读
MENTOR框架通过元认知自评估与规则图蒸馏，将14个主流LLM的平均越狱成功率从57.8%大幅降低。 该框架结合单次规则推理与选择性调用的进化循环，将验证过的规则编译为激活层引导信号。 MENTOR在所有测试领域均优于现有安全对齐方法，相关代码与数据集已公开。
来源：arXiv · NLP · arxiv.org