跳到正文
arXiv · AI· Mahabubur Rahman Miraj, Hongyu Huang, Nankun Mu, Chao Chen, Shanqin Yi·· 10 天前AI 评分36

META-IR:面向 LLM 自适应安全对齐的元内省推理框架

META-IR: Meta-Introspective Reasoning for Adaptive Safety Alignment in LLM

AI 导读

META-IR 提出一种基于元学习的元内省推理框架,用于增强 LLM 的安全对齐。 该框架采用双循环架构,结合 SI-MCTS 进行结构化风险分析与自我修正,并通过动态越狱模拟实现无监督持续改进。

来源:arXiv · AI · arxiv.org