通过自蒸馏实现多语言安全对齐
研究提出名为 MSD 的跨语言安全转移框架,通过自蒸馏将高资源语言(如英语)的安全能力转移至低资源语言(如爪哇语),无需目标语言响应数据。 方法包含 on-policy 和 off-policy 两种 MSD 实现策略,并引入 DPSW 散度度量以自适应调整安全关键 token 权重。
研究提出名为 MSD 的跨语言安全转移框架,通过自蒸馏将高资源语言(如英语)的安全能力转移至低资源语言(如爪哇语),无需目标语言响应数据。 方法包含 on-policy 和 off-policy 两种 MSD 实现策略,并引入 DPSW 散度度量以自适应调整安全关键 token 权重。
基于非对称期望重构局部匹配的 M-Attack-V2,显著提升了 GPT-6.1 Sol 和 Claude Sonnet 5.5 等大视觉语言模型的黑盒对抗攻击成功率。
该研究让大语言模型从参考文档构建 SQL 数据库,以此在无监督条件下检测幻觉,在 RAGTruth 和 DiaHalu 数据集上表现优于直接预测并媲美最先进方法。 方法不依赖领域特定微调,而是利用 LLM 已有的低层通用符号能力,为高维任务提供基于数据库推理的神经符号验证。 这项工作验证了挖掘 LLM 低层能力在神经符号方法中的潜力,推动了无需额外训练的幻觉检测研究。
针对移动应用评论规模远超现有自动化分类体系处理上限的问题,TaxoScale 流水线利用 60 万+ 条评论构建分类学。 该方法结合递归层次聚类与 LLM 节点命名,在路径、层级及覆盖指标上优于强基准模型,并发现既有分类体系中缺失的新分支。 团队公开了代码与数据以支持可复现性,未来研究可在此基础上探索分类学的动态演进能力。
论文提出 BRACE,将有序推理链编码为四个可微分阶段作为结构化正则化器,辅助有害对话检测。 在4个领域和5类危害中,BRACE 基于 RoBERTa-wwm-ext 达到 0.934 的宏观 F1 分数,使用 Qwen3-1.7B LoRA 解码器骨干网络提升至 0.949。 消融实验表明所有组件均有贡献,结构分解使模型能区分具有语义歧义的有害类型。
多模态RAG中朴素融合易受污染数据影响,gpt-4o-mini在污染文本下支持率从0.908降至0.490。 作者提出免训练的SATR方法,其Field-Selector变体取得0.816平衡分数,比Full-MM高11.7点。 在文本优先的冲突场景中,选择性信任优于无条件融合。
针对现有 AI 生成文本检测文献缺乏统一危害标准及假设脱离实际的问题,研究者系统性定义了多种 AI 生成文本概念及其特征。 构建了标注详细生成与编辑历史的 AITDNA 基准数据集,用于检测人机协同文本。评估发现现有检测器仅对特定概念有效,且代码与数据已公开。
研究引入 ASR_STEP 指标,在保留二元成功判断的同时惩罚对目标模型的额外调用,弥补传统攻击成功率(ASR)未计入重复调用成本的缺陷。 在 JailBreakBench 上评估 GCG、PAIR 和 PAP 时,GCG 分数因折减降低 7.0-8.7 个百分点,PAIR 折减范围在 3.4-12 个百分点之间,PAP 保持不变。
决策训练对类型化决策模型并非普遍有益,Jev在金融情感任务中比微调DeBERTa的期望校准误差高1.7个百分点。 使用EM先验校正无需标签,可使Jev在两个数据集上的ECE分别降低2.7和1.8点;作者已发布所有输入、代码及输出。
该研究将红队测试形式化为预算化攻击调度问题,在GPT-5.2上设计四种调度策略,评估静态先验、语义引导和在线反馈三种信号的作用。 静态历史成功率在冷启动时效果强,但受防御分布偏移影响可靠性下降;语义引导在冷启动中一致提升效果,在线反馈在历史先验失效时尤为关键。
研究发现,在 LLM 代理共享长期记忆中,将所有者名称置于凭据行前可显著降低跨用户账号滥用风险。 研究显示,在 AppWorld 压测中,7 种代理在 80% 至 94% 的运行中使用他人凭据,导致受害者账户在 43% 的情况下被修改;添加所有者标记后,滥用率从 305 组中的 92 次降至 1 次。 评估应测量代理行为而不仅是凭据暴露,记忆系统需一致记录存储凭据的所有者归属。
该研究评估了 19 项关于智能体通用 AI“失控”风险的实证研究,认定该风险目前为“弱可能性”。 研究基于 8 个威胁属性,在构念效度、内容效度和外部效度三方面检验证据质量;19 项研究中无一达到属性存在的效度门槛,仅 1 项研究通过“情境感知”属性的否定方向门槛。 研究指出,对最危险属性的高外部效度在负责任研究实践下可能结构性不可达,且实证评估会滞后于能力发展前沿。
研究提出 Indistinguishable Agents 方法,通过训练双世界中仅私有事实不同的模型,解决 LLM 智能体行动泄露隐私问题。 使用冻结区分器计算观察者视图的对数似然比,结合 GRPO 训练智能体在任务成功与降低该比值间取得平衡。 该方法在购物和消息任务中消除了奖励机制未能捕获的隐私泄露,且智能体仍能完成任务。
同一模型在两种“不安全”定义下安全基准分数差异可达23倍,且部分基准已被训练集污染。 0.03%的参数量变动即可使基准分数覆盖全区间,模型来源成为未记录的混杂因素。 研究者主张评估应公开污染、随机种子下限及评分定义。
PIAtlas 提出基于模型颠覆机制的提示注入分类法,包含六个核心类别,旨在统一攻击描述并改进评估。 该系统基于 LLM 训练与提示原理构建,并映射了最大许可清洁公开数据集 PICorpus 中的数千条记录。 现有智能体基准测试仅覆盖部分攻击空间,PIAtlas 为理解攻击、改进基准覆盖率及指导红队防御提供共同基础。
summary_zh: PRPO 通过执行验证共进化攻防 LoRA 模型,提出 Peer-Relative Policy Optimization 机制以优化代码安全。
ORA 单关系攻击通过干预单一隐含理由,利用单个源接地句误导大模型 Agent。在 18 款模型的生物医学推理与漏洞检测测试中,Best-of-10 攻击使专有模型初始正确答案翻转率达 54.9%,开源模型达 80.0%。攻击可无反馈迁移,且成功句能规避源支持检查;多 Agent 辩论在压力测试中使团队错误率从 50.0% 升至 59.5%。
固定目标模型与提示词,仅更换 LLM 评分器会导致合规响应坍缩至“逃避”类别,造成 900 条响应中合规标签计数为零。 3 个 8B/9B 参数的评分器均触发此类坍缩,且在新有害请求及第四方 7B 评分器上复现;通过检查各标签计数可无成本检测该现象。 在 8 个评分器上,合规率相差 22 至 25 倍,而非拒答率相差 18 至 23 个百分点;该结论支持将标签计数纳入最低报告标准。
医疗微调未降低 LLM 聚合风险,而是改变风险分布,基于 K-QA 基准的 200 个真实问题验证了这一点。 BioMistral 等模型抑制高危药物提及但放大过度自信断言,Med42 则仅抑制剂量描述,风险语言与事实幻觉率在统计上独立。
研究提出双层分类法解析大语言模型多元对齐,区分Overton、Steerable及Distributional Pluralism三类核心目标。 整合70篇文献构建目标-参照矩阵,识别现有方法中Steerable与Distributional Pluralism为主流,而Overton Pluralism在聚合层级证据有限。
LookAhead Defense 提出利用模型自身安全响应构建 Safety Buffer,通过预览微调更新并仅惩罚削弱安全的更新,解决现有防御依赖外部响应的难题。 该防御在语言模型及多模态智能体上,将有害行为比例最高从 93.9% 降至 14.2%,语言模型有害响应从 92.5% 降至 2.0%,同时保持低过度拒绝。
研究者提出“安全中期训练”,在预训练与后训练之间联合发展安全与通用推理。该方法通过生成结构化文档和推理痕迹,将攻击成功率(ASR)相对于Qwen3-1.7B、4B和8B基线模型降低了72%至81%,同时提升了通用能力。 这种增益在后续纯通用SFT或GRPO后依然保持,使模型在不牺牲通用能力的前提下维持更低ASR,从RL初始化时达到更好的安全-效用前沿。
研究团队发布 AfriGuard 多语言数据集,覆盖 10 种非洲语言及英语,用于分析恶意意图与拒答行为。现有 guardrail 模型在安全意图分类中 F1 分数低于 60%,且常因语言不适配导致非预期拒绝。基于该数据训练的 guardrail 模型性能可与 30 倍参数规模的模型竞争,拒答检测器平均性能提升 43.9%。
研究适配校准测量方法,能可靠检测两个开源权重模型中几个百分点的倾向漂移。 微调有害医疗与金融建议比正确建议引发更大偏移;启用推理模式时模型答案几乎掩盖了内部倾向变化,关闭推理则随有害数据比例增加而持续漂移,凸显需同时测试推理开关状态的重要性。
合作削弱了 LLM 团队的遗忘效果,研究提出了聚合条件遗忘(ACU)方法。 ACU 通过利用个体和池化消息的重构反馈来训练共享模型,优先处理高恢复风险视角。 在 TOFU 基准上,ACU 将全轨迹恢复率从 41.8% 降至 19.3%,有效遏制信息泄露。
在 Gemma-2-2B-it 和 Llama-3.1-8B-Instruct 上测试四种一致性训练方法,发现它们仅削弱训练线索,未教会模型区分线索对错。 正确与错误线索影响力同步下降,线索位置(选项前/后)显著影响修正幅度,电路头部仍携带残余误差。 该发现表明当前一致性训练方法未能提升模型对线索选择性的识别能力。
扩散语言模型(dLLMs)的采样器决策不仅决定写入哪个token,还决定何时提交,从而在模型自身偏差之上引入“采样器诱导偏差”。在LLaDA和Dream模型中,常见的“窥视”采样规则(如LLaDA默认规则)会放大职业性别刻板印象并压缩观点分布,且快速并行解码下偏向男性的倾向更强。
研究识别出大语言模型中跨语言共享的安全神经元集合(Safety Kernel, SK),并提出SK-Masked LoRA方法以增强跨语言安全防御。 该方法利用激活响应性计算安全对比分数,通过限制LoRA适配在SK对应的FFN输出维度,将安全变更聚焦于跨语言共享神经元。 实验表明,该方法在干预极少神经元坐标的同时,显著降低了多种语言(含未参与SK发现的语言)的攻击成功率。
研究提出通过合成故事对构建概念向量,覆盖 1,036 个与 AI 对齐相关的概念。 该向量在跨 3 个模型家族的 6 个大模型中可靠泛化,并能因果性地引导模型行为。 该方法为研究语言模型概念提供了可扩展路径,潜在可拓展至数百万个特征。
研究者发布针对孟加拉语提示的分级安全分类资源 BanglaShield,其轻量微调编码器在原生脚本上达到 87.8 macro-F1,较最佳 LLM 领先 42.8-46.1 点,且参数量比 Gemma 4 31B 少约 130 倍。
研究显示 LLM 智能体遵循提示注入的决策在推理过程中逐渐形成。Qwen3 无思考模式下 91% 结果方差在阅读时确定,开启思考后降至 62%;单次评测标签重跑一致性仅 65%。 基准测试需多轮运行以确保可靠性。
研究熵控学习在独立任务、风险与干预约束下的机制,指出单纯降低熵并不等同于安全性。 推导了噪声校准对数行列式泛函的光谱力公式,并给出了多个保护风险下的极小极大可行性证明与锥投影公式。 理论明确了可容许熵调节的边界与局限性,但未将压缩等同于对齐或证明对人类福祉的益处。
视觉语言模型在处理图像与文本组合产生的跨模态隐式伤害时,常无法将证据绑定至伤害机制,且现有基于标签的训练方法在分布外数据上泛化效果差。 研究提出诊断基准 MuPHI 和推理学习方法 CHIL。
提出名为 SODA 的白色盒算法,可从部分输出知识重构文本输入,在 0 假阳性前提下将精确匹配重构能力提升 4 倍。 算法支持 33M 至 3B 参数模型,证明输入长度与词表大小比参数数量更关键。 应用于安全场景,可在 1000 次迭代内从中毒模型恢复 6 个后门触发器及 139 个 PII token。
该综述构建了统一分类法,横跨跨实例、跨域、跨模态、跨模型、跨任务和跨部署六个轴。 研究阐述了梯度对齐、共享表征等迁移机制,并识别了评测指标不一致等研究缺口。 该工作旨在指导具备迁移感知能力的安全评估与防御。
研究人员提出将用户意图显式纳入 LLM 安全分类模型,并构建包含 1,724 条难例的 AIMS 数据集以验证该方案。 该策略在多种训练机制中表现优异,其中使用 GRPO 直接奖励意图忠实度在 5 个外部基准测试中取得了最强的平均性能,且形成了推理延迟-F1 的 Pareto 前沿。 这表明忠实建模意图是提升安全分类器鲁棒性的紧凑高质量监督信号。
针对大语言模型易受越狱攻击的问题,研究人员提出受限知识遗忘(CKU)策略,通过剪枝特定神经元梯度在保留有用知识的同时移除有害知识。CKU 显著增强了模型安全性,且未损害整体性能,相比现有方法实现了安全与实用性的更优平衡。
智能体框架 RedDarwin 将越狱进化单元从提示词转变为可执行攻击技能,利用 47 个基础技能自主进化出 65 个新技能,将 AdvBench 平均攻击成功率从 18.8% 提升至 47.3%。
ECHO提出在优化越狱攻击中用基于实际有害能力的响应级连续有害性分数替代传统的token级合规代理。该方法结合1.7B规模的HarmSig回归器与全局top-m记忆关键词锚定束搜索,在严格黑盒威胁模型下运行。在AdvBench五个开源模型上,ECHO达到0.898的StrongREJECT均分和89.23%的HarmBench成功率,代码已公开。
SAFE-Mem 是一种细粒度记忆治理框架,通过为每个断言标注 kind、authority 和 scope 标签,在阻断未授权记忆使用的同时保留合法信息。 该框架结合治理感知检索与治理启用记忆图,在 MPBench 和 LoCoMo 数据集上测试了四个 LLM 骨干模型。 在保留合法记忆的防御机制中,其攻击成功率比最强防御低至少 77%,且答案准确率为所有评估防御中最高,提升幅度达 15%。