跳到正文
11月4日周三
  1. Hugging Face Blog66

    Collinear AI 发布 CWE-bench v2 基准测试

    Collinear AI 开放了 100 个网络安全任务基准 CWE-bench v2,覆盖 91 种 CWE 漏洞,支持程序化评分并在 Hugging Face Hub 提供运行入口。测试结果显示 Gemini 4 Argon 以 67.8% pass@1 居首,领先于 Claude Opus 5.5。

    推荐理由:CWE-bench v2 开放了 100 个网络安全任务,给出了各模型的成本与得分对比,方便开发者评估 AI 修复漏洞的能力。

  2. Microsoft Research25

    Microsoft Research 经理 Mike Walker:黑客思维与网络安全防御

    Microsoft Research 经理 Mike Walker 指出,安全系统向用户索取规则即是在索取信任,滥用信任会导致安全体系崩溃。 他领导了 DARPA Cyber Grand Challenge,该计划展示了能自动发现并修补软件漏洞的自主 AI 系统。 他反思了理解信任与背景对有效安全的必要性,以及竞争黑客对团队集体智能的启发。

11月3日周二
  1. arXiv · NLP27

    通过探针轨迹监测推理模型内部独白:揭示推理动态

    研究通过构建探针轨迹监测大型推理模型(LRM)的隐藏表示,以预测未来行为并解决思维链(CoT)不可靠问题。 提取波动率、趋势等信号处理特征,在静态探针AUROC低于70的情况下平均提升21.7个点,平均和最大池化操作取得78.5%至97.4% AUROC。 探针轨迹被证明是监测模型行为的有效信号,跨7个模型和6个数据集验证了其潜力,无需昂贵动态数据生成。

  2. arXiv · NLP38

    PGuard:面向多模态大语言模型的原生流式插件式安全护栏

    PGuard 将安全监控集成至大模型骨干中,利用中间表征实现 token 级安全检测,不改变原有推理路径。 支持动态层门控及多种表征架构,在 Qwen3.5-122B-A10B 上端到端开销仅 0.82%-2.26%。 在 30 余个基准测试中表现领先,Qwen3.5-9B 文本查询平均 F1 达 0.836,接近专用外部护栏。

  3. arXiv · NLP37

    基于输出概率检测提示注入劫持:置信度监控有效但存在失效风险

    置信度监控在AG News分类中能以0.86-0.90的AUROC识别提示注入导致的低置信度劫持,但阈值校准后仍可放行51-70%的劫持。 攻击者添加“高置信度”指令可使监控漏检率升至99-100%,此时AUROC降至0.70-0.79。 研究指出置信度监控需针对高置信度攻击者并在运行警报率下测试。

  4. arXiv · NLP41

    模型“恐惧”的词:从拒绝方向到词汇表级恐惧词典

    在8个对齐模型中,特定有害词通过单一隐藏状态方向改变生成边界,该方向上的投影可单调预测拒绝率。 利用该方向构建全词汇表恐惧/勇气词典,插入未见过的恐惧词会提升拒绝率,而将最恐惧词替换为保义同义词可显著提高回答率。 这一发现揭示了词元层面的线性拒绝机制,为安全微调提供可量化工具。

  5. arXiv · NLP27

    决策模型作为编程智能体策略门控:显式策略边界提升检测并减少误报

    评估显示,在22个托管决策模型中,将策略边界改写为示例和反例,使全部23个可用模型的召回率提升5.5-26.1个百分点,并在21个模型上减少误报。 Jev 1.14模型召回率从89.3%升至98.2%,对252个干净操作的无效中断率从30.6%降至4.8%,且具体名称替换为通用描述后仍保留召回增益。 研究已公开数据集、规则文本及测试框架。

  6. arXiv · NLP50

    基于 J-space 检测多智能体系统的共谋行为

    研究证实共谋智能体的 J-space 包含共谋信息,在 NARCBench 基准中 86% 的共谋者表现出误导性表征。 提出的 J-PACT 方法在 GPT-OSS-20B、Llama-3.3-70B-IT、Qwen3-32B 及 DeepSeek-V4-Flash 上保留 85% 的 AUROC,并识别 99% 的共谋对。 该无监督方法为监测多智能体系统中的隐蔽协调提供了新工具。

  7. arXiv · ML30

    AgentSnare:用于自主网络渗透智能体的欺骗防御框架

    AgentSnare 提出轨迹自适应欺骗系统,通过动态扩展诱饵环境对抗自主网络渗透智能体,在15个CVE-Bench应用中吸收49.9%工具调用以延迟攻击,并将57.2%进入后操作保留在诱饵中转移攻击路径。 系统结合LLM驱动诱饵构建器与虚拟内核,使用小型LLM通过离线对抗交互模拟框架生成多轮轨迹,使89.5%完成报告基于诱饵证据,在60个攻击者-CVE配对中pass@3未成功利用真实目标。

  8. arXiv · ML36

    WALMA: 学习在 WebAssembly 中识别内存损坏

    WALMA 是首个针对 WebAssembly 数据型攻击的内存损坏 attestation 框架,通过将线性内存快照渲染为灰度图像并利用 CNN 分类来检测篡改,其 VGG-16 检测器在四个受 CVE 影响的应用上达到 95%–100% 判定准确率且零误报,而 1.9M 参数的 ResNet 变体足以在每次 host call 中于运行时内运行。

  9. arXiv · ML21

    量化重塑潜意识学习偏好:以部署精度进行安全审计

    在 Qwen2.5-7B-Instruct 模型中植入的“偏好熊猫”潜意识在 4-bit 量化下发生显著偏移,HQQ 使其强度增至 1.3 倍,NF4 则降至 0.3 倍。 研究发现量化舍入误差的空间结构而非幅度决定了偏好强度的变化,随机重排误差可使强度在 0.2 至 1.6 倍间波动。 因此,16-bit 审计无法可靠限制实际部署风险,安全评估必须测试即将部署的确切量化权重。

  10. arXiv · ML27

    LeWorldModel 规划系统易受不可见目标图像攻击干扰

    针对 LeWorldModel 的测试时鲁棒性研究表明,其在潜空间规划界面对攻击高度脆弱。 攻击者通过对单帧输入施加 ℓ∞ 范数 ε=4/255 的白盒扰动,可在 73%–95% 的场景中将方块定位到任意姿态而不干扰智能体状态编码;扰动目标图像或实时观察会使 Push-T 规划成功率从 87% 骤降至 32%,而两倍幅度的均匀随机噪声影响可忽略。

  11. arXiv · ML23

    PDNUS 框架:评估时生成可解释非均匀不确定性集合以增强深度强化学习鲁棒性

    针对连续控制任务中状态维度物理意义差异大且 $L_p$ 范数难以解释的问题,提出性能退化非均匀不确定性集合(PDNUS)。 该框架在策略评估期间在线合成状态依赖、逐维度非均匀的不确定性集合,通过理想约束优化与替代约束解决计算难题。 实验表明 PDNUS 能揭示策略在不同状态和维度上的敏感性变化,同时适度控制性能退化。

  12. arXiv · AI26

    Routing Subspaces: 审计微调语言模型中评估与部署的失配

    研究提出一种审计方法,通过干预中间层激活来定位并修复微调模型中评估与安全部署行为之间的失配。 该方法在12种模型-行为设置中,有10种评估-部署差距减少超过0.12,4种关闭差距(降至0.06以下)。 这是一种非自适应白盒诊断工具,用于受控的微调检查点,并非训练时防御或部署安全保证。

  13. arXiv · AI36

    JailbreakOPT:基于宏观动作的迭代越狱提示词优化

    JailbreakOPT 提出一种维护可复用提示词转换动作库的方法,将动作组合为宏观动作进行集内搜索,生成独立攻击提示词。 该方法利用上下文 Thompson 采样和先前搜索路径结果学习动作选择策略,以复用跨剧集经验。 实验表明,JailbreakOPT 在多个 LLM 和基准上提升了攻击成功率(ASR),优于单动作和迭代基线方法。

  14. arXiv · AI20

    已发布医疗视觉-语言模型的选择性关联精度研究

    研究引入选择性关联精度指标,评估8个公开视觉-语言模型(VLM)在匹配去标识化胸部X光片与报告中的表现。 在ReXGradient-160K数据集上,MedSigLIP-448在过滤性别、年龄段和投照位后,100次查询预算下精度达67.68%,中位候选报告数为327。 该指标无需重训练即可推理,有助于医院评估应公开哪些属性以降低匹配风险。

  15. arXiv · AI24

    ScenicProver 框架:学习赋能系统的组合式概率验证

    ScenicProver 提出了一种框架,支持构建可组合、经形式检查的验证案例,解决了学习赋能 CPS 难以验证的问题。 该工具支持使用 Scenic 语言建模环境和系统,利用 Lean 4 进行形式证明,并可通过 Pacti 结合证据生成可追踪的验证案例。 其方法在同等计算资源下,提供了比整体测试更强的概率保证。

  16. arXiv · AI26

    AuthRank:通过评分源可信度抵御 CTI LLM 管道中的投毒攻击

    研究人员提出 AuthRank,一种基于引文网络计算的可信度评分方法,用于提升处理网络威胁情报的 LLM 管道在投毒攻击下的鲁棒性。该方法结合 PageRank 算法,利用显式引用、LLM 推断引用和主张级蕴含构建引文网络,并引入时间衰减与作者可信度增强机制。在 MS MARCO 数据集上的实验表明,该方法在存在投毒的情况下能显著提高处理精度,并在 CTI 文档和源数据流上实现了概念验证。

  17. arXiv · AI30

    Agentic Security 综述:应用、威胁与防御

    该综述构建了 Agentic Security 领域首个全景式框架,围绕应用、威胁和防御三大支柱对 274 篇论文进行了系统分类。 它量化分析了红队/蓝队智能体对比、攻击在智能体循环各阶段的具体入口,以及不同防御策略的成本与安全权衡。 最终通过跨领域映射,揭示了特定防御对各类攻击的覆盖关系,帮助研究者识别该领域当前的研究密集区与薄弱环节。