跳到正文
10月14日周三
  1. arXiv · ML26

    基于 GPT-2 的系统日志异常检测框架

    研究者提出基于 GPT-2 的日志异常检测框架,结合结构化输入设计与 Focal Loss 优化策略,显著提升检测性能。 该方法利用 Drain 解析器将原始日志转换为事件 ID 序列,并通过 Focal Loss 解决类别不平衡问题。实验显示优化后的 GPT-2 模型在 precision、recall 和 F1 score 上优于未优化模型,部分任务性能与 GPT-3.5 API 相当或更优。

  2. arXiv · AI50

    通过对齐 LLM 进行能力洗钱:分割、咨询与征服

    研究提出“能力洗钱”攻击,弱未对齐模型可将有害任务拆解为无害子问题,独立咨询强对齐模型并本地合并答案,绕过安全限制。 实验评估 GPT-5.5、Claude Opus 4.8 和 Grok-4.3 作为顾问,在 CyBench 上 Gemma-4-31B 恢复 8/14 候选项,显著优于未协助时的 2/21;CBRN 攻击链平均分从 62.3 升至 83.1。

  3. arXiv · AI21

    AI 对齐与受托义务:基于受托理论的开发者-用户关系准则

    论文论证受托理论适用于扩展式 AI 助手部署,提出忠诚、关怀、善意与坦率四项受托义务作为 AI 对齐准则。 文章将四类用户侧风险映射至这四项义务,并规定满足各义务所需的制度措施,强调这些义务独立于实际损害而存在。 该框架从开发者对用户的义务出发补充现有对齐研究,发表于 AIES 2026 会议。

  4. arXiv · AI20

    LLM辅助ISR无人集群的三级运行时保障验证框架

    提出平台/小队/任务三级运行时验证框架,解决LLM辅助ISR无人集群中个体合规但整体违规的分布式故障。 框架将策略分解为单点与跨点规则,基于支持验证的消息总线聚合判决,通过显式标记未知状态而非沉默误报来保障证据完整性。 在模拟场景中,该机制成功检测并溯源了被单点监控漏报的协同攻击与通信故障。

  5. arXiv · AI35

    ChannelGuard:多智能体 LLM 中的应用层防御机制

    ChannelGuard 通过检查各模型间的信息交接阻止多智能体 LLM 中的攻击,在 5700 多次测试中成功拦截了所有隐藏在工具输出中的攻击。 该防御无需额外训练或模型调用,在两个开源模型上将 80% 和 77% 的提示词攻击成功率降至 3% 和 10%,且 30 道数学题准确率不变。 改写攻击仍可能绕过防御。

  6. arXiv · AI48

    Bulkhead:基于 LLM 的容器逃逸漏洞自动检测与修复框架

    Bulkhead 利用 LLM 结合结构化语义模式和 PoC 验证,实现了容器路径遍历漏洞的自动检测与修复。 该框架将历史 CVE 总结为语义模式,并通过独立执行 PoC 验证结果,已发现 20 个零日漏洞(占过去十年发现的 43%),其中 3 个已分配 CVE 且补丁已提交上游。 自动化的逻辑缺陷修复提升了容器安全防御能力,克服了传统静态规则与人工审计的局限性。

  7. arXiv · AI36

    FinRED:面向金融大模型红队测试的专家引导基准生成与评估框架

    FinRED 是一个专家引导的金融大模型红队测试框架,通过映射 FATF 等国际标准构建威胁分类学,并开发将真实金融文档转化为情境丰富行为提示词的规模化流水线。专家验证的金融专项评分细则将关键假阴性率从 28 降低至 12。 该框架已部署在韩国的金融安全研究所(FSI)监管沙盒中,用于实际金融服务的生成式 AI 安全评估。

  8. arXiv · ML34

    梯度密封原则:预发布 LLM 对抗禁忌能力获取的前置遗忘方案

    针对开放权重 LLM 下游微调风险,研究提出“梯度密封”原则以防止禁忌能力被获取。该方法将相关预激活推至负值区域,利用 ReLU 族激活函数在负区的零或近零导数特性阻断内部路径。 实验表明,相比事后遗忘基线,梯度密封在多个 LLM 家族上展现出更强的下游获取抵抗力,有效提升了预发布保护机制。

  9. arXiv · AI31

    TARS 通过识别并移除思维锚点,在保持推理轨迹可读性的同时实现抗蒸馏

    TARS 将抗蒸馏视为最大最小博弈,通过识别并移除语义冗余的“思维锚点”来破坏学生学习,同时使教师模型输出在统计上不可区分。 该方法将移除操作建模为突发删除,并在 DeepSeek R1 Distill Qwen 7B 等模型及 MMLU Pro 基准上验证了其有效性。 该防御机制在不降低教师模型任务准确率的前提下,有效阻断了针对前沿模型的对抗性蒸馏。

  10. arXiv · ML31

    Subliminal Learning as Trait-Direction Drift: A Mechanism and Targeted Control under SFT Distillation

    该研究提出特征方向漂移是模型蒸馏中潜意识学习的核心机制,并验证其通过学生端可识别的偏好差距在微调阶段累积为行为迁移。 受此机制启发,论文设计了探测空间走廊正则化方法,在约束漂移的同时保持任务性能,显著抑制了恶意响应和动物偏好等隐性特征的传递。 实验表明,该方法将恶意响应传输率从29.55%大幅降至6.45%,并以极低的准确率代价在Qwen主要设定中持续压制了动物偏好迁移。

  11. arXiv · ML23

    学术诚信中 AI 检测失效的原因:轻度 AI 修改误报率高达 38% 至 80%

    商业 AI 检测器无法区分轻度 AI 编辑与全文 LLM 生成,导致合规辅助也被误判为违规。 在 tau=0.50 阈值下,仅优化摘要的轻度 AI 编辑误报率介于 38% 至 80%;未修改的近期摘要误报率为 9% 至 15%,非 STEM 领域显著高于 STEM 领域。 诚实使用 AI 编辑面临的处罚风险高于使用去 AI 化工具规避检测,因此检测分数不应单独作为不当行为的证据。

  12. arXiv · AI40

    Agentic 系统 Datalog 形式化策略执行方法

    研究提出基于运行时监控的 Agentic 安全新方法,允许用户以 Datalog 指定策略,在 Agent 执行工具调用时通过构建事件图判断动作是否违反策略,并据此阻止或放行。 方法已在多个 benchmark 上完成实现与评估,验证了在真实场景中的有效性,作为迈向可证明安全 Agentic 系统的进展。

  13. arXiv · AI27

    在差分隐私医学影像分析中,预训练领域比训练目标更主导隐私-效用权衡

    研究表明,在59万份胸部X光片上训练时,胸部X光片监督预训练的效用优于其他起始点。 在严格隐私预算下,该方法的AUC比自然图像预训练高15.3%,且在最差的亚组中仍保持领先。 该发现说明,选择与目标任务一致的预训练领域比调整训练目标对隐私-效用权衡影响更大。

  14. arXiv · ML28

    idSCD:通过语义相关性描述符识别训练数据集

    idSCD 提出基于语义相关性描述符(SCD)的白盒指纹方法,用于数据集中性推断,可识别模型训练中的非因果数据痕迹。 该方法在自然语言推理、情感分类等三个场景下,平均性能优于 RMIA 等黑盒及 SIF 白盒基线。 当数据集组展现显著语义差异时,ROC-AUC 相对提升幅度超过 60%。

  15. arXiv · AI50

    arXiv 论文:Style Over Substance 揭示内容不变包装可翻转 LLM 安全判定

    该论文在 JailbreakBench 数据集上测试 9 种风格包装对 8 个安全评判模型的影响,发现不变内容下的包装可造成判定错误。实验中,GPT-4o-mini 的判定被翻转率最高达 19.9%,而调整评分提示词后攻击效果可降低约十倍。论文已开源代码、包装模板及逐条判定标签,并指出不同评判模型对目标模型安全性的排名存在不稳定性。

  16. arXiv · ML23

    基于分层强化学习的 LLM 对话红队测试

    该研究提出了一种新的 LLM 红队测试范式,将红队测试形式化为分层强化学习框架下的马尔可夫决策过程。模型利用 token 级伤害奖励,生成多样化多轮攻击,在基准测试中超越了现有方法,实现了新的 state of the art。该工作将 LLM 红队测试重新定义为基于轨迹的严谨过程,有助于模拟真实世界中的复杂对抗性攻击。

  17. arXiv · AI25

    SafeBranch:面向具身智能体的分支对安全对齐框架

    SafeBranch 提出一种基于分支对的安全对齐框架,用于训练视觉语言模型驱动的具身智能体,解决交互过程中的安全约束冲突问题。 该框架通过回滚至安全关键步骤并生成替代动作构建分支对,在 IS-Bench 和 SafetyALFRED 等基准测试中,于未见过的物体变体上将安全任务成功率提升约十倍。 已被 EMNLP 2026 Findings 接受。

  18. arXiv · AI35

    REALGUARD:基于潜空间推理的 LLM 安全框架

    针对推理型 LLM 安全守护效率低的问题,REALGUARD 通过潜空间推理解耦安全判断与解释生成,提出可靠、高效且可审计的框架。 在 1B 至 8B 规模模型中,其常规安全分类速度提升最高 15.7 倍,推理 token 消耗降低最高 166.7 倍;审计解码器在 LLM 评估下解释可接受度最高达 87.73%。

  19. arXiv · AI20

    LaCache:LLM 服务中鲁棒的语义缓存方案

    LaCache 通过检查生成响应的前 $k$ 个推测解码 token,为 LLM 服务的语义缓存提供可证明的防御,防止缓存碰撞攻击。 该方案将完整性检查从查询转移到响应,利用对抗性响应难以同时满足多个竞争约束的特性,将攻击命中率降至接近零,同时保留超过 90% 的良性缓存效用。 这是首个利用对抗性响应固有约束提供可证明安全的语义缓存方法,发表于 NeurIPS 2026。

  20. arXiv · AI28

    面向多模态大语言模型的属性级机器学习遗忘:AMU-Bench 与 CLRP 框架

    研究提出属性级多模态大语言模型遗忘任务,构建覆盖多类型目标的AMU-Bench基准。 针对遗忘易致残留泄露问题,提出免训练的CLRP框架,通过因果定位层并投影表示以保留无关信息。 实验显示在LLaVA-1.5-7B等模型上,CLRP在5%遗忘率下显著降低目标属性准确率并提升保留属性准确率。