跳到正文
10月24日周六
10月23日周五
  1. Qoder62

    Qoder 上线 php2shell Defense 与 Node.js 漏洞扫描插件协助排查高危漏洞

    Qoder 插件市场上线 php2shell Defense 和 Node.js 漏洞扫描两款插件,用于应对 PHP 和 Node.js 近期的安全更新。该功能允许用户通过预设指令对项目进行只读检查,在用户确认方案后执行文件修改与本地测试,并协助验证部署结果。文中指出使用 DeepSeek-V4.1-Flash-1017 执行该检查流程目前免费。

    推荐理由:官方针对 PHP 和 Node.js 高危漏洞提供了两款配套插件及标准化检查指令,帮助开发者在不接触生产环境的前提下完成风险排查与修复验证。

  2. arXiv · ML28

    Giskard:面向大规模去中心化学习的拜占庭鲁棒且隐私保护聚合协议

    论文提出 Giskard 协议,结合差分隐私与拜占庭鲁棒性,解决去中心化学习中隐私攻击与模型投毒双重威胁。 该协议将参与者组织为 $O(\log n)$ 大小的委员会树,通过委员会适配的安全分位数搜索实现隐私保护坐标近似中位数计算。 实验表明 Giskard 相比最近竞争者将单点通信复杂度降低近三个数量级,且在高达 $n/4$ 拜占庭参与者下保持可比鲁棒性。

  3. arXiv · AI68

    Measuring the Permission Gate: A Stress-Test Evaluation of Claude Code's Auto Mode 发布:对 Claude Code 自动模式权限系统的压力测试评估

    研究团队发布了对 Claude Code 自动模式权限系统的独立评估,指出该机制在处理用户意图明确但范围模糊的任务时存在防御缺口。使用包含 128 个提示词的 AmPermBench 基准,评估了 253 个状态变更操作,端到端漏报率(FNR)达 81.0%,显著高于生产流量中的 17%。

    推荐理由:论文通过独立压力测试揭示了 Claude Code 自动模式在模糊授权场景下的防御盲区,指出文件编辑路径未被覆盖导致漏报率高达 81%。

  4. arXiv · AI26

    MAVOS-DD 多语种音视频开放集深度伪造检测基准

    研究人员发布了首个大规模多语种音视频开放集深度伪造检测基准 MAVOS-DD。 该数据集包含约 350 小时八种语言的真实与伪造视频,其中 59% 为生成数据,且训练集仅包含部分生成模型与语种以构建开放集场景。 实验表明,当前最先进检测器在开放集设定下无法保持性能水平,数据与代码已公开供非商业使用。

  5. arXiv · AI28

    DetoxAI:用于计算机视觉深度学习模型去偏的开源 Python 工具包

    DetoxAI 是一款开源 Python 工具包,专为计算机视觉分类任务提供事后去偏功能,以弥补现有方案在视觉数据上的不足。 该工具包实现了 SOTA 去偏算法与公平性指标,支持内部表示干预及归因可视化,文章发表于 ECML PKDD 2025 Demo Track。 它为工程师和研究人员提供了评估模型公平性的量化手段与可视化分析工具。

  6. arXiv · AI30

    如何在图像知识蒸馏中植入后门攻击

    当蒸馏数据集被投毒时,即使教师模型干净,也能通过注入触发图像在轻量级学生模型中植入后门,攻击成功率在10%投毒率下依然有效。 该攻击结合了目标对抗扰动和基于GAN的类别转换策略,证明数据完整性与溯源是知识蒸馏安全边界的关键组成部分。

  7. arXiv · ML38

    PROACT-Agent:面向实时安全的渐进式运行时监控与主动熔断框架

    PROACT-Agent 框架通过合成高保真轨迹实现实时护栏,其训练模型在不安全类别检测上取得 91.46% F1 分数。 框架包含渐进式轨迹展开、推理增强因果修正及文化感知数据本地化模块,并构建了含 155,780 个状态的双语基准 PROACT-Bench。 在 AgentDojo 评测中,该护栏将非 DoS 定向攻击成功率从 20.82% 降至 0.40%。

  8. arXiv · AI20

    自进化 Agent 框架演化的组合式安全失效识别与运行时监控

    针对自进化 Agent 框架组件交互引发的组合式安全失效,提出基于带类型超图的运行时监控机制。在三个基准测试中识别出 43 种两两交互失效和 18 种不可约三元失效,通过局部更新超图显著降低验证成本。实验表明该方法在有效缓解安全风险的同时保持了任务效用,并揭示了安全性、效用与成本之间的权衡关系。

  9. arXiv · ML23

    当计算资源存在二次方差距时,是否所有对抗攻击都可迁移?

    研究证明当攻击者与防御者计算资源存在二次方差距时,任意可学习分类任务都存在可迁移攻击或对抗防御;生成式任务在该差距下不适用此二分法。 论文还证明,输入后可额外花费计算的防御在理论上严格强于固定模型防御,证实增加推理时计算可提升鲁棒性,该结论基于特定密码学原语假设。

  10. arXiv · AI24

    风险感知对齐必须纳入奖励不确定性

    提出基于奖励方差估计的新策略优化算法,解决带噪奖励下的风险感知对齐问题。 在理想化多元高斯模型中,证明最优风险正则化器为权重于奖励协方差矩阵的二次范数。 实验表明,该算法在合成 bandit 模型、LLM 及 reward model 上比现有方法产生更鲁棒的对齐结果。

  11. arXiv · ML23

    RMT-Jailbreak:将自回归越狱攻击迁移至扩散语言模型

    RMT-Jailbreak 提出了一种将自回归(AR)越狱攻击迁移至扩散语言模型(dLLM)的通用框架。 该框架利用有害响应作为越狱模板,通过均匀保留部分 token 生成高掩码比率模板,并结合提示词安全过滤去除可见有害内容,最后交由 dLLM 进行双向重构。 实验证明该方法在多种 AR 越狱方法和目标 dLLM 上均有效,揭示了越狱攻击具备强跨范式可迁移性。

  12. arXiv · AI33

    Post-Audit Mirage:离线智能体验证的可识别性限制

    离线测试无法揭示智能体部署后的安全性,Post-Audit Mirage 基准通过匹配的安全与有害生命周期验证了这一盲区。 该基准涵盖授权、调度及共享容量环境,IdentifiedRangeMonitor 利用新危害结果判断是否部署。实验表明,监控在有利设置下可恢复区分度,但在罕见或数据缺失时无法确定。 此研究被 NeurIPS 2026 “谁验证智能体”工作坊录用。

  13. arXiv · ML21

    联邦差分隐私优化:基于低秩预条件化的 DP-PCA 框架

    提出联邦 DP-PCA 框架,在安全聚合下实现线性通信成本的中心差分隐私保证。 该框架包含差分隐私秩选择、差分隐私幂迭代及低维子空间上的噪声协方差发布,解决了现有方法通信成本随维度二次增长的问题。 实证表明,该方法在通信成本仅为基准一部分的情况下,性能与二次通信成本的中心基准相匹配。

  14. arXiv · AI28

    CALA:用于效用保持的反蒸馏的冲突感知 Logit 适配器

    CALA 提出了一种轻量级训练时防御,通过在冻结教师模型上添加小型残差适配器来减少学生模仿,同时保持教师性能。该方法利用代理学生定位敏感位置进行扰动,并在推理时仅产生适度开销且无需辅助模型。 实验显示,在推理基准测试中,CALA 在显著降低成功模仿率的同时,维持了接近原始的教师性能和生成质量。 该研究确立了 CALA 作为解码时干预方法的实用且高效替代方案。

  15. arXiv · AI36

    AI 评估与监督的极限:基于分割理论的分析

    研究人员提出 AI 评估的分割理论,证明判断受限于感知,通过回声测试(echo test)可设定能力下限但无法检测隐藏。 该理论扩展至监控集成与模型控制信道,解释了裁判分歧与沙袋效应(sandbagging)的已发表发现,并推导出可测试预测。 仅依赖行为评估的安全论证必须假设模型配合,否则无法证明其缺乏某种能力。

  16. arXiv · AI28

    AgentTriage:跨异构 Agent 运行时的可重放安全诊断框架

    AgentTriage 提出一种跨异构运行时的可重放安全诊断执行合约,支持基于规范事件的可验证结论,并在证据缺失时强制弃权。 该框架覆盖 5 种运行时共 159 次适用执行,在 120 个已裁决案例中实现 0.858 的 grounded joint diagnosis,较最强基线提升 0.175(95% CI [0.092, 0.258]),且无需语言模型判断即可复现诊断。

  17. arXiv · AI22

    面向安全可信 AI Agent 的“三支柱”治理框架

    该论文提出包含透明度、问责制和可信度的“三支柱”模型,用于构建安全可信的 AI Agent。 模型通过渐进验证、结构化人类监督和可审计操作控制实现 Agent 自主性的逐步扩展,支持生命周期监测和决策追溯。 框架为在保留人类意图对齐的前提下实现受控的高阶自主性提供了实用基础。

  18. arXiv · AI22

    Secure Agentic AI and Multimodal Intelligence in 6G Communication Systems

    该综述从隐私与安全角度,调查了面向6G通信系统的多模态智能与Agentic AI。文章构建了一个跨层级的系统视图,涵盖感知、记忆、工具使用及多智能体编排。 文中分析了威胁模型与攻击面,并对现有攻击进行了结构化分类,提出了包括提示词防御、智能体间信任机制和安全编排在内的缓解策略。 最后,作者总结了构建可信多模态多智能体6G系统的开放研究方向。

  19. arXiv · ML42

    医学 AI 中自动化隐私风险筛选研究

    研究通过 7,789 个模型与 6 个临床数据集指出,个体患者比群体平均更容易受到成员推理攻击,且高风险患者人群在不同训练配置下基本保持稳定。团队开发了轻量级筛选工具,通过 4 个小型模型在生产模型训练前识别高风险患者,无需删除数据即可实施保护。该工具表明隐私筛选应融入临床 AI 数据准备流程,使隐私评估更具实践性。

  20. arXiv · NLP40

    MENTOR:通过元认知驱动自进化框架识别与缓解LLM中的隐式领域风险

    MENTOR框架通过元认知自评估与规则图蒸馏,将14个主流LLM的平均越狱成功率从57.8%大幅降低。 该框架结合单次规则推理与选择性调用的进化循环,将验证过的规则编译为激活层引导信号。 MENTOR在所有测试领域均优于现有安全对齐方法,相关代码与数据集已公开。

  21. arXiv · NLP28

    基于 LLM 的政治影响力红队测试:表达保真度与越狱机制研究

    针对本地部署的开源大语言模型(LLM),研究团队通过红队测试发现,这些模型在政治表达上存在系统性不对称性。 评估超过 30 个来自 10 个模型族的 LLM 后发现,左翼内容的表达保真度通常较高,且模型越大,平均 OW 得分越低。 研究结果揭示了不同国家模型在表达保真度上的差异,并展示了简单的自然语言越狱能显著改变评分,为政治可控性审计提供了依据。

  22. arXiv · NLP26

    扩散语言模型用于感知困惑度的黑盒攻击

    该研究提出将扩散语言模型(dLLM)直接耦合到连续潜在空间框架中,替代传统随机映射,从而生成更自然的攻击提示词。 在 RareTrap 采样设置中,字符级困惑度从 10^3–10^7 降至 3–5;在 ThinkTrap 优化搜索设置中,困惑度从 20–28 降至 4.3–5.4。 不同映射下的模型风险评估结果差异可达一个数量级,表明 dLLM 能提供更基于自然语言的风险估计。