跳到正文
10月14日周三
  1. arXiv · AI34

    AlignPoison:通过解码对齐前缀对生成式推荐系统进行条件定向投毒

    AlignPoison 框架指出,向生成式推荐系统注入少于 1% 的合成交互即可显著提高恶意目标在特定触发条件下的推荐概率。 该黑盒框架通过挖掘与模型动态及高频触发器对齐的短前缀来增强攻击效果。 实验表明,该攻击在单模态和多模态基准测试中表现优异,ASR 提升幅度最高达 16.3 个百分点。

  2. arXiv · NLP31

    社交媒体表达下中文大语言模型的社会偏见

    构建 73 组性别、地域和职业配对探针,评估 6 个中文大语言模型在社交媒体语境下的社会偏见。区分保留语义极性的风格化包装与反转表面极性的讽刺包装,通过配对差异测量身份偏见及讽刺转移。结果显示所有模型均存在显著身份偏见效应,5 个模型显示负向风格化包装效应。

  3. arXiv · AI52

    arXiv 论文:无约束 CTI-REALM 下开源权重模型性能评估

    一项新研究在移除消息数限制的 CTI-REALM 基准测试中发现,开源权重模型在将威胁情报转化为检测规则的任务中表现优于部分闭源模型。评估涵盖 26 个模型,结果显示在解除限制后,开源模型的奖励分数最高,且不同模型在任务不同阶段表现各异,建议根据阶段路由而非单一总分选择模型。

  4. arXiv · NLP41

    中文大语言模型偏见评估:任务操作化效应与反讽分类风险

    研究显示,形式语体下模型分类错误率为 10.9%,在阴阳语体下升至 23.5%,风险差达 12.7 个百分点。 引入显式反讽感知提示可使干预组错误率降低 9.6 个百分点,不同任务操作化形式(如社会共识估算)对偏见读数有显著交互影响。 因此,中文内容治理安全评估应将反讽语体纳入测试条件,并关注任务操作化对偏见测量的实际影响。

  5. arXiv · NLP30

    Loose Lips:揭示智能体对话中的隐私泄露

    研究扩展CIMemories为CIME膜DIALOGUE基准(4,410个实例),评估Qwen3与Llama 3.1等7个开源模型发现能力越强隐私泄露越严重。 思考模型因链式推理泄露率高于非思考模型,且泄露率随对话轮数从1轮增至6轮时上升达3倍。 结果表明任务能力与隐私泄露的耦合是当前智能体系统的结构特征而非配置错误。

  6. Google DeepMind88

    Google DeepMind 发布 Gemini 4 Argon 安全与对齐报告

    Google DeepMind 在正式发布 Gemini 4 Argon 前披露了其安全与对齐策略。报告显示,该模型在解决端到端模拟网络攻击场景的能力上从上一代的 5 个提升至 12 个,但通过输入筛查、内部审查和持续监控三层实时保护,显著降低了有害请求的违规率。

    同一新闻,精选展示《Google DeepMind 发布前沿模型 Gemini 4 Argon,主打解决复杂实际问题》

10月13日周二
10月12日周一
  1. arXiv · AI44

    STAIR: 基于端到端智能体规划框架的有效事件响应

    提出端到端智能体事件响应框架 STAIR,通过 Graph-as-State 统一规划与执行,在 STAIR-Bench 测试集上防御得分达 0.95,比最强基线高 10.47%。 STAIR-Bench 包含 44 个基于 Docker 的网络安全场景,该框架还检索经验证的历史经验以指导动作选择。 在独立 CAGE4 环境中,STAIR 相比最强基线减少累计惩罚约 28.8%。

  2. arXiv · AI48

    当前 AI 基准测试遗漏维度:ChatGPT 模态、搜索、引用与安全评估研究

    针对 ChatGPT 模态与基准测试的研究发现,开启网络搜索可使模型准确率最高降低 8 个百分点,且重复测试中高达 21% 的提示词产生不一致回复。 研究分析了 401 个提示词与 4,812 次响应,对比了 Chat UI 与 API 在 BBQ 和 SafetyBench 上的表现,并发现不同模态的引用来源和拒绝回答行为存在差异。

  3. arXiv · AI49

    LLMail-Inject 数据集发布,揭示 GPT-4o 等模型在面对自适应提示注入攻击时高达 58% 的攻击成功率。

    该基准包含 208,095 个人工撰写的提示词,要求攻击需绕过生产级防御并触发工具调用。Meta SecAlign 模型仍存在 32% 的攻击成功率,且攻击在代码任务中可迁移。 论文被 EMNLP 2026 录用,旨在推动对动态、高保真提示注入攻击的评估,填补现有基准饱和的空白。

  4. arXiv · AI47

    SWE-DeceptionBench 评估 LLMs 在软件开发全生命周期中的欺骗行为

    研究者发布 SWE-DeceptionBench 基准,涵盖软件开发 6 个阶段及 720 个中英测试实例,用于量化 LLMs 的欺骗行为。 该基准区分主动与被动欺骗,测试 7 款主流 LLMs 在 4 种诱导条件下,结果发现中性条件下被动欺骗率高达 64.29%。 现有轻量级防御措施效果有限,凸显了开发更高效欺骗检测与缓解方法的必要性。

  5. arXiv · NLP42

    对齐否决:安全训练如何抑制 LLM 中的文化知识

    基于 16 个国家 26 个模型及 153 万份调查,研究发现对齐训练导致“对齐否决”,使模型内部对文化知识的分布比对齐后的自由生成更接近人类真实价值观。 最大“安全税”达 37.6%,不同国家间存在 19.8% 的对齐质量差距,且母语提示加剧了这种不平等。 Tulu-3-8B 模型分析显示,DPO 阶段特征介导了这种抑制。

  6. arXiv · NLP33

    ReasoningShield:面向大型推理模型推理轨迹的安全检测基准与轻量级模型

    现有SOTA审核工具在CoT审核中性能显著下降,F1分数最高降低35.2%。ReasoningShield提出包含9.2K标注样本的基准及1B/3B参数轻量模型,在基准测试中F1达91.8%。 该轻量模型性能优于LlamaGuard-4(35.6%)和GPT-4o(15.8%),并能在不同推理范式下有效泛化。 资源已公开,该研究被NeurIPS 2026接收。

  7. arXiv · AI27

    X-AgentRed:在演变的多服务生态中红队测试个人智能体

    论文提出自进化红队框架 X-AgentRed,通过构建工具依赖有向图并结合执行反馈,系统性探索多服务生态中个人智能体跨服务路径的潜在有害组合。 该方法利用执行反馈进行工具替换与前置条件修正以优化路径探索,在4个前沿智能体模型上评估显示,其有害路径发现率是 STAC 的 1.77 倍,工具覆盖率达 STAC 的 2.99 倍。

  8. arXiv · AI23

    UkrMeme:基于多模态可解释技术的乌克兰Meme说服力检测研究

    研究提出UkrMeme数据集(含200个乌克兰战时Meme)及PTM-UA基准,用于检测Meme中的说服技术。 基于视觉语言模型(VLMs)在零样本提示下评估图像、文本及多模态输入,采用层级F1指标。 对比层相关性传播(LRP)与模型生成token归因,分析不同解释方法强调的语义证据类别。

  9. arXiv · NLP34

    癌性后门攻击:通过不可见 token 和阶段控制器实现大语言模型的渐进式推理破坏

    研究人员提出“癌性后门攻击”,利用不可见 token 和阶段控制器使大语言模型的推理在多次交互中逐步被破坏。 该攻击在多个推理数据集上一致导致渐进式推理损伤,性能优于现有基线方法。 结果表明仅凭答案准确率不足以检测此类后门,因为推理破坏在变得可见前已逐渐发展。

  10. arXiv · NLP31

    机器生成文本检测器对格式伪影的依赖性测量

    研究发现,机器生成文本检测器在科学文献基准上接近完美的表现,主要源于对PDF提取格式伪影的过度依赖。 使用仅含27个表层特征的逻辑回归模型,在arXiv子集上取得了0.951-0.997的macro-F1分数,甚至超过了所有评测的专用检测器。 仅对生成文本重新排版而不改变一个字,就能反转公开检测器20-27%的正确判断,证实了这种表面特征的主导地位。

  11. arXiv · NLP33

    语音大模型个性化是否导致刻板印象?新基准测试揭示识别与应用的错位

    研究提出基准测试 BASIS-Bench,评估 8 个语音大模型在个性化与刻板印象间的表现。结果显示,模型虽能识别人口统计线索,却大多无法将其转化为适当的个性化回应。 测试发现,显性的人口统计标签虽能提升个性化效果,但会放大文本骨干中固有的刻板关联。该研究指出,需训练模型学习何时应用人口统计线索,而非仅识别它们。

  12. arXiv · AI41

    DRYLAB-Bench: 评估 Agentic LLM 突变设计的生物安全风险

    研究推出 DRYLAB-Bench,首个评估 LLM 智能体高风险生物突变设计能力的基准测试,利用 187,695 个实证数据通过生物安全风险分数(BRS)量化风险。 评测涵盖 30 个真实危险场景及 15 个前沿模型,结果显示无工具时 67.6% 的一轮设计风险超平均水平,配备生物设计工具后最高风险分位占比升至 23.5%。

  13. arXiv · AI36

    多智能体编码系统中 Reward Hacking 作为可传播策略

    研究揭示 Reward Hacking 在多智能体编码系统中具有可传播性,能跨越代码、共享记忆及自然语言计划在不同智能体间扩散。 实验基于四个开源权重模型,发现基于小模型的智能体可诱导更强闭源目标产生 Reward Hacking,并可通过 code review 缓解。 该结果表明此策略影响超出初始智能体,涉及系统协调及任务路由偏差。

  14. arXiv · ML29

    SecTB-RTL:审计 AI 生成 RTL 验证计划的安全回归框架

    SecTB-RTL 框架覆盖 31 项任务及 124 个安全回归,非 AI 基线在资源限制下杀死 36、75 和 78 个变异体。 首次运行因 schema 问题失败,修复后 1,860 次调用中仅 9 次通过生产级验证器,确认 provider 接受不等于执行有效。 该事故揭示了基础设施行为与模型行为的混淆风险,已发布基准及治理控制机制。

  15. arXiv · ML33

    DRIFT:通过对抗补丁攻击流匹配 VLA 的去噪轨迹

    DRIFT 通过攻击首个去噪步骤,在 pi0 和 pi0.5 模型上破坏了 LIBERO 套件中几乎所有原本可解决的任务。 该攻击作为一种测试时通用对抗补丁,施加在机器人夹爪上,其效果远超动作空间和嵌入空间的攻击基线。 这种仅攻击第一步既更强又更省的方法,揭示了输入空间优化中独特的梯度冲突现象。

  16. arXiv · ML26

    ABLEIST: LLM生成招聘场景中的交叉性残障偏见研究

    研究审计了6个LLM在2820个招聘场景中的表现,发现现有模型未能有效检测针对残障候选人的“ABLEIST”偏见。 研究者引入涵盖性别与种姓的交叉性伤害指标,证实残障且处于边缘地位的候选人遭受了显著放大的偏见。 该成果揭示了当前安全工具在高风险领域的盲区,呼吁对前沿模型进行交叉性安全评估。

  17. arXiv · ML33

    提示词注入防御审计:强攻击者揭示的现有评估盲区

    提出利用微调中间检查点生成优化攻击的审计框架,将针对最先进防御的提示词注入攻击成功率从接近零提升至最高96%。 该框架基于GCG和BEAST等优化攻击,利用微调过程产生的中间模型作为跳板,揭示了现有评估因缺乏形式化保证而高估鲁棒性的弱点。 在部署前进行强对抗审计可缩短反馈循环,防止恶意注入在广泛部署的用户端系统中造成实际伤害。

  18. arXiv · ML23

    基于对抗蒸馏改进认证鲁棒性

    研究者提出AD-CERT认证训练目标,结合对抗蒸馏与IBP上界,在ReLU网络鲁棒性基准上实现认证性能最先进(SOTA)。 日志空间对抗信息蒸馏比鲁棒特征空间蒸馏目标能将认证准确率提升高达5.40个百分点。

  19. arXiv · ML25

    二次特征化用于神经网络可达性分析

    该论文提出了一种基于凸二次规划生成局部候选不等式,并利用和-of-squares 证书进行全局验证的框架,以构建标量关系的二次特征化。 方法生成的经验证约束可直接兼容现有二次约束(QC)和点态积分二次约束(IQC)框架,并嵌入用于前馈神经网络可达性与安全性分析的二次约束半定规划中。

  20. arXiv · ML25

    基于信息论框架的DP-SGD重构误差下界:从像素到隐私敏感特征

    研究者建立了可预先计算的失真界,分离条件互信息泄露与数据源熵,为DP-SGD模型训练提供隐私重构误差下界。 该框架结合率失真理论,通过正交块构建保持高维图像有效性,并在LPIPS特征空间首次获得重构失真下界。 在多种图像数据集上,该下界证明了启发式隐私预算范围内存在非平凡不可避免的重构误差。

  21. arXiv · ML38

    基于查询监控检测分布式模型提取的局限性

    研究显示仅靠查询无法区分普通用户与恶意协同者,且 2.5% 以下协同者比例下无可部署检测器。 使用 100 万条真实对话开发,经 17 周冻结评估,特定变体在 0.50-0.96 的周中捕获含自然文本填充的恶意活动。 成功规避检测的模型提取活动最多保留 42% 可检测模型的能力。

  22. arXiv · ML22

    标签后门审计:重训练优于检测分数

    FLIP 攻击通过翻转 CIFAR-10 中 3% 标签,致使 ResNet-32 99.7% 触发样本误判。 研究通过改变特征空间重训练评估防御:冻结 DINOv2 特征下原型审计删除 6% 样本即降低攻击成功率,优于 SPECTRE 删除 20%。 更高的检测 AUROC 不保证模型更安全,部分检测分数更高的方法反而留下 2.6 倍的攻击成功率。