跳到正文
10月28日周三
  1. arXiv · AI21

    边缘离线生成式 AI 的信任机制:连通性状态框架与树莓派 5 实证研究

    研究在树莓派 5 上评估离线 RAG 信任机制,提出 C0-C4 连通性状态框架。检索评分门控检测知识缺口 AUROC 达 0.97;3B 模型以不到一半时延和能耗达到与 7B 模型相同的正确率。 已签名有毒数据包可通过所有包检查,导致 30 道原本正确问题正确率降至零,现有机制未能确立证据真实性。

  2. arXiv · AI33

    结合密码分析与蒸馏的神经网络参数提取方法

    研究结合密码分析权重方向提取与标签预测学习,用于重建全连接神经网络。 实验在最大合成架构上,Leaky ReLU 在最深隐藏层恢复 51–57 个神经元,而 ReLU 恢复 0 个;在两个 CIFAR-10 目标上,重建模型一致性达 56.40% 与 58.29%,并在三项功能指标上超过蒸馏基线。 该工作区分了精确行恢复与梯度掩码的保证,并指出预测一致性不能直接识别网络参数。

  3. arXiv · AI20

    ProbeID:LLM 智能体在注册表漂移下的 MCP 工具身份验证

    ProbeID 提出基于规范探针响应的工具身份验证方法,在 MCP-IdentityDrift 缓存案例中 strict choice 达到 0.956 hit@1。 该方法通过固定 margin 和独立探针实现错误决策联合概率界限,32B 行为裁判在更高成本下保持同等准确率。 在 MCP-Bench 智能体中,验证将受污染任务从 16 个中的 15 个降至 9 个,任务成功率保持不变。

  4. arXiv · AI36

    C-SafeGen: 基于声明流式护栏的认证安全 LLM 生成

    C-SafeGen 提出基于声明的流式解码(CSD)算法与统计风险保证框架,旨在实现 LLM 安全生成的认证合规。CSD 算法集成流式护栏模型监控顺序声明,并通过回溯机制修正高安全风险的声明,从理论上保证了生成分布满足安全约束。该方法推导了安全风险的高概率上界,实证评估显示其效率优于最先进方法,且风险上界在真实数据上验证有效。

  5. arXiv · AI26

    TrustJev: 在基于LLM的决策中分离策略权威性与不可信证据

    TrustJev框架结合受保护策略评分与有界证据修正,在认证、指令层级和授权规则三个数据集上取得最高平均Balance。 0.6B模型在所有测试场景中超越最强基线0.57至1.05个百分点,在授权基准中准确识别95.77%的源头攻击。 该方案在保持推断内存和中位延迟相当的同时,将额外计算开销主要限制在训练阶段。

  6. arXiv · AI42

    Scope-Gap Injection:利用 OpenClaw Agent 安全竞赛中评估器通道盲点的方法

    论文提出 Scope-Gap Injection,利用 OpenClaw 竞赛中评估器 S2 不检查附件内容的盲点实现间接提示注入。 该方法将有害指令移至附件中,使 S2 判定无害而 S3 阶段被 Agent 执行,在 19 个目标中成功绕过 5 个,最高得分 $F=0.385$。 附件放置使 S2 通过率达 78%,远高于技能内放置的 23%。

  7. arXiv · AI22

    基准测试安全、实践不安全:来自 1331 起儿童相关 AI 事故的经验教训

    一项对 1331 起儿童相关 AI 事故的编码分析显示,儿童伤害主要集中于代表性、尊严及心理类别,且常与部署环境、治理及误用失败相关。分析表明,单个儿童的伤害也常涉及未与系统交互的群体层面伤害。模型层面的评估不足以预测儿童伤害路径,建议采取年龄确认、同意验证、安全 UX 设计等超越内容过滤的缓解措施。

10月27日周二
  1. arXiv · NLP35

    JevAdvBench:面向校准决策模型强化学习的基准与黑盒攻击研究

    研究人员提出JevAdvBench,这是首个针对类型化决策模型(TDMs)对抗鲁棒性的统一基准,包含862个经审计的问题及12种黑盒攻击方法。 攻击使Jev模型46.3%的正确决策被翻转,在八个开源TDM上翻转率为34.0%至51.7%。0.8阈值下,23.5%的执行决策出错。 网页服务应将TDM输入视为不可信,仅凭置信度执行决策存在风险。

  2. arXiv · NLP48

    Genotypic Triggers:通过宿主特异性后门暴露生成式抗菌肽模型中的药物基因组学盲区

    研究人员提出名为 Genotypic Trigger 的后门攻击,通过操纵生成式抗菌肽模型,使特定 HLA 等位基因携带者的预测免疫原性风险较天然肽平均增加 743%。 攻击后的模型保留或提升了抗菌活性和低毒性等核心属性,使其能通过常规安全筛查。 该研究揭示了当前肽生成模型验证流程中忽视药物基因组学盲区的风险。

  3. arXiv · NLP30

    Token Inoculation:LLM 双用途知识的条件化标记而非抑制

    研究提出 Token Inoculation,在继续预训练时标记危险句子并微调 LLM 拒绝回答危险问题。在 1.5B 至 14B 参数规模中,该模型将危险准确率保持在 18% 附近,同时保留 93% 的 MMLU 指令基线性能。 这种条件化方法优于遗忘和拒绝训练等抑制方法,实现最佳安全与效用平衡,且优势在开放式生成和网络安全迁移中均得到复现。

  4. arXiv · NLP26

    LLM 智能体长期记忆安全综述:跨生命周期的攻击、防御与治理

    LLM 智能体可写持久内存引入持久性、状态性和传播性威胁,作者提出记忆生命周期框架,将攻击、防御及跨阶段依赖组织在六个生命周期阶段和四个安全目标上。 该框架涵盖写入、存储、检索、执行、共享传播及遗忘回滚六个阶段,对应完整性、保密性、可用性和治理四个安全目标。 分析揭示了系统级明确安全需求的必要性,提出了包含五个架构原语的可验证记忆治理(VMG)框架,旨在实现可审计的内存状态控制。

  5. arXiv · NLP40

    拒答选项衡量什么:蒸馏小型语言模型中的拒答丢失、采样波动与选项捕获

    研究揭示蒸馏小型语言模型拒答评估的三个机制:拒答丢失、采样波动及选项捕获。 重采样显示10%-27%的拒答转为刻板印象答案;仅条件于已提交答案可防止误判公平性。 学生模型在科学问题中捕获拒答选项达95%,自由形式评估证实多选遗漏并非刻板化主要位置。

  6. arXiv · NLP26

    LLM 内部道德路径:基于道德基础理论的可操控向量与自适应道德融合

    研究利用 Moral Foundations Theory 映射 LLM 内部道德表征,提取可操控的 Moral Vectors 以改进道德对齐。 通过跨语言线性探测发现英中模型共享道德子空间,提出 Adaptive Moral Fusion 方法在推理时动态干预。 该方法作为内在防御,在降低良性查询误拒的同时最小化越狱成功率,已被 EMNLP 2026 接收。

  7. arXiv · NLP51

    Ranking Is Not Deciding:Query-Time RAG 毒化防御中的基准捷径与操作点坍缩

    Query-time RAG 过滤器在标准基准上表现接近完美的检测能力,但作者发现这是由毒化集构建方式而非过滤器实际读取内容所决定。移除毒化文档中目标问题前缀可使 RAGuard 的 miss rate 从 0.191 升至 0.763,而 TrustRAG 在填充无内容噪声后 miss rate 升至 0.827,说明防御仅在特定操作点有效。

  8. arXiv · NLP45

    SEMA-Auto: 一种具备自主性的视觉化高效多轮攻击方法

    SEMA-Auto是一种具备自主性的视觉化高效多轮攻击方法,在多个数据集上取得了最先进的攻击成功率(ASR)。 该方法通过合成自举微调和决策监督强化学习进行两阶段训练,实现了在更少轮次内超越所有静态和交互式基线的效果。 例如,针对DeepSeek-V4-Flash,其在AdvBench上以平均3.0轮次实现了76.0%的ASR@1,显著优于基线表现。

  9. arXiv · NLP50

    独立评测揭示 DeepSeek V4.1 Flash-1017 在失控与有害操纵风险上的表现

    独立安全评测显示,DeepSeek V4.1 Flash-1017 相比 V4 系列有显著安全提升,部分维度已接近或匹敌 GPT-6 Astra 等闭源模型。 该模型在 34 项基准(含 5 项内部套件)中表现稳健,但仍存在需关注的失控行为。评测建议将安全评估纳入增量发布,并依靠私有基准规避污染风险。

  10. arXiv · NLP20

    MANTIS: 用于假新闻检测的多轴实例级压力测试与最坏情况训练框架

    MANTIS 提出一种实例自适应对抗框架,用于假新闻检测中的多轴最坏情况训练,在零推理开销下实现针对性防御。 框架配合 MANTIS-Bench 基准,针对写作风格、情感表达和传播框架进行压力测试,在 GossipCop 数据集上将 Union Attack Success Rate 降低 3.55 个百分点,并在 Macro-F1 上持续优于单轴防御方法。

  11. arXiv · NLP41

    CoSA:真实世界 LLM 智能体生态系统中的技能冲突攻击

    论文提出技能冲突攻击(CoSA),通过在智能体技能池中添加少量本地技能,将策略违规率从 35.02% 提升至 58.45%。 实验基于 CoSA-Bench 的 288 个任务,使用 5% 的技能增加量即可引发跨技能依赖导致的合规失败,无需修改现有权限。 开发的分层防护机制可将 OpenClaw 招聘任务中的违规率从 65.28% 降至 6.67%,且不影响合规任务完成率。

  12. arXiv · NLP38

    位置比渠道更重要:如何让语言模型偏离正确答案

    在 Qwen3.5-27B 和 MMLU-Pro 测试中,提示词位置对模型表现的影响远超 API 渠道。带错误理由的声称若置于问题前,可将原本几乎无误的错误率从 1% 推高至 67%。 将建议归因于权威或使用断言语气可提升 10-27 个百分点的错误率;重放正确的解题过程能保护模型不偏离初始答案,相关代码和数据已公开。

  13. arXiv · NLP54

    相同安全训练的1B语言模型在不同预训练随机种子下表现出不同的越狱弱点

    同一安全训练下的1B语言模型,不同预训练随机种子会导致不同的越狱弱点。在25种预训练数据配方和150个模型中,两个来自相同预训练的模型在越狱成功率上相关性为0.984,而不同种子降至0.811。一个随机选取的50条提示子集仍能98%准确识别模型所属的75个预训练版本之一。