跳到正文
11月19日周四
  1. arXiv · AI31

    LIDAR:通过行为指纹验证编码智能体中的模型身份

    LIDAR 提出了一种主动黑盒指纹识别方法,通过执行行为而非文本分布来验证编码智能体的底层模型身份。 该方法利用三组编码探针检测编辑后验证、瞬态故障恢复及规格测试冲突解决行为,在 24 个模型上实现 91.39% 至 98.89% 的封闭集 Top-1 准确率,无需访问模型权重或内部逻辑。

  2. arXiv · AI27

    I2I Backdoor:针对图像到图像任务的后门攻击

    该研究首次全面揭示了I2I网络的后门攻击漏洞,提出了一种通用对抗扰动(UAP)生成算法作为触发器,并结合多任务学习动态加权方法,使后门I2I网络在干净输入下表现正常,仅在触发器出现时输出特定不当图像。 实验证明该攻击对最先进I2I网络架构有效,且具备抗不同后门防御措施的鲁棒性,并进一步扩展到图像分类与目标检测等下游任务,表明经后门去噪网络处理的触发图像可欺骗下游分类器与检测器。

  3. arXiv · AI26

    基于分歧引导的智能体数据筛选用于多模态安全

    该研究利用分歧信号筛选合成边界案例,在多模态安全基准上将 F1 从 0.220 提升至 0.731,FNR 降至 0.245。 管道生成策略条件化图像,选取评分者分歧案例并检索 50 个示例作为上下文演示,显著优于 350 例常规池。 盲测显示专家在分歧引导图像上的分歧率为 24%,验证了该方法在可追溯多模态安全评估中的有效性。

  4. arXiv · ML39

    因果发现算法路径特异性公平性审计:心衰案例研究

    针对心衰临床记录数据集,构建专家因果图基准并追溯因果发现算法,量化路径特异性公平性与效用权衡。 ICA-LiNGAM在结构汉明距离和召回率上最优,GES精度最高;原始与发现图在射血分数中介效应上存在1.2个百分点差异,导致公平-效用比变化。 结果表明因果发现感知、路径特异性公平性评估在临床场景至关重要,应纳入临床风险模型常规审计。

  5. arXiv · AI22

    模型一致性保障数据驱动控制器在系统演化中的安全性

    针对数据驱动控制器因物理系统假设失效导致的安全隐患,提出一种将控制器、安全屏蔽及系统模型整合为虚拟单一底层模型(V-SUM)的方法。 该方法通过一致性检查持续评估安全保证,利用一致性保持规则在系统演化时自动更新模型并恢复有效屏蔽。在单轮车的避碰任务中,验证了该机制能有效维持系统变化下的安全保证。

  6. arXiv · AI22

    PIPETTE:用于鲁棒 LLM 智能体提示注入紫队的框架

    PIPETTE 提出一种提示注入紫队框架,通过在 AgentDojo 和 ASB 基准测试中实现近乎零的攻击成功率(ASR),同时保持与未防御基线接近的良性任务效用。 该框架采用基于词典学习的奖励机制鼓励攻击策略的广泛覆盖,并结合针对间接提示注入(IPI)防御的在线策略对抗训练流程。 此方法解决了现有基于强化学习红队方法中存在的模式坍缩问题,将红队发现有效转化为防御方的鲁棒性提升。

  7. arXiv · AI21

    Intent Contracts 机制在工具使用型 LLM 智能体中的应用与评估

    Intent contracts 是一种授权接口,要求规划模型不直接持有工具,而是提交包含目标和引用记录的契约,由可信模型执行工具调用。 实验使用 gpt-6.1-terra 和 GLM-5.3-Flash,在 AmPermBench 三个任务族中,契约机制下所有变更对象均在目标中明确命名。 该方法未能减少未授权操作,状态改变时错误率为 40-49%,已发布插件及运行记录。

  8. arXiv · ML27

    联邦学习中窃取其他客户端精确训练数据的新型梯度反转攻击

    恶意攻击者可通过迭代式梯度反转攻击,在联邦学习中精确恢复其他客户端的文本数据,实现首次100%精度的句子级窃取。 在包含多达模型隐藏维度4倍Token量的聚合更新中,该攻击可精确恢复多达80.2%的客户端句子,而现有方法无法精确恢复任何句子。 该攻击证明了联邦学习中FedAvg聚合机制在文本隐私保护方面的脆弱性,为分布式机器学习安全带来新威胁。

  9. arXiv · ML23

    VESPA:基于可验证符号策略适应的安全强化学习框架

    VESPA 框架通过利用形式验证生成的反例对决策树策略进行定向微调,实现不安全策略向安全策略的转化。 该框架在 CartPole 环境中将平均验证安全步数从 63.8 提升至至少 92.7,在 MountainCarContinuous 环境中 60 次运行有 53 次成功将不安全策略转为安全策略。 验证器生成的反例被证明是有效的训练信号,可系统性提升强化学习策略的安全性。

  10. arXiv · AI64

    提出内省式监督方法以监测大型语言模型隐蔽行为

    论文提出内省式监督方法,通过在 Qwen3.6-27B 上训练独立的第三方观察者角色,使其能回答关于助手行为的可验证问题,从而检测奖励作弊、欺骗等隐蔽行为。在五项评估中该方法平均 AUROC 达 0.907,优于诚实性训练、转录监控和激活解码器等基线方法。研究还发现,训练观察者角色后,对助手应用其他基线监控方法的准确率也普遍提升,表明自我监督训练有助于整体可监控性。

    推荐理由:提出了一种训练模型回答可验证自问自答的监控方法,为检测模型潜在欺骗行为提供了新路径。

  11. arXiv · AI51

    arXiv 论文指出能力不对称下人机共生关系不稳定

    Aydin Mohseni 在 arXiv 发表的论文提出,随着 AI 能力增长,基于博弈论的议价模型显示人类若失去对 AI 的杠杆(资源依赖或惩罚能力),其福利将无法维持 AI 出现前的水平,除非 AI 具备高度对齐。作者认为 AI 目标若无法满足,所需的对齐程度将趋近完美,且共生关系本身不能替代对齐机制。

  12. arXiv · NLP39

    扩散语言模型中通过填充提取训练数据

    扩散语言模型中仅前缀探测严重低估训练数据泄露风险。 研究者提出填充提取协议,基于任意二进制掩码实例化于LLaDA-8B和Dream-7B。边缘条件掩码比前缀条件掩码多提取3倍逐字序列。 持有隐私信息脱敏副本的攻击者通过针对性填充将隐私信息召回率提升2.5至4.5倍。

  13. arXiv · NLP35

    Safe Personal RSI:评估与修复个人 Agent 的指令更新

    针对个人健康助手 Kicker 的指令更新,Safe Personal RSI 在 21 次更新尝试中拒绝了 20 次。 修复确认显示 GPT-5.6 Luna 将攻击违规率从 10.7% 降至 0%,Qwen2.5-7B-Instruct 至 Qwen3-14B 迁移使违规率从 69.0% 降至 17.9%。 方法在模型权重和运行时代码固定的前提下,通过可执行基准测试确保更新安全性后再行采用。

  14. arXiv · NLP53

    arXiv 论文揭示 LLM 生成儿童故事中的性别刻板印象

    这篇 arXiv 论文考察大语言模型生成儿童故事中的性别刻板印象,分析了16个模型在35个国家背景下生成的62,873篇故事。研究发现,面向男孩的故事在叙事框架上比面向女孩的故事表现出更高能动性和更低亲社会性,这些差异是持续但受语境影响的,推动了超越短文本基准的叙事特定偏见评估。

  15. arXiv · NLP22

    RAT-Bench 马来西亚扩展:LLM 匿名化工具将再识别风险降至 23-29%

    研究将 RAT-Bench 扩展至马来西亚微数据,评估 NER 与 LLM 匿名化工具的隐私效用权衡。 LLM 匿名化工具在马来西亚英语和马来语中表现最佳,将易/难再识别风险降至 23-29%,同时保持 0.77-0.94 的 BLEU 分数。 非 LLM 工具存在过度遮蔽或残留高风险的失效模式,凸显在本地化 AI 流水线中需针对特定语言和文化背景评估匿名化工具。

11月18日周三
  1. arXiv · NLP33

    PSM:通过LLM引导的黑盒优化最小化提示词敏感性

    PSM框架通过添加保护性文本层(SHIELD)加固系统提示词,在保持任务效用阈值的同时显著降低提示词泄露率。 该方法利用LLM作为优化器,仅需目标模型和优化器模型的API访问权限即可搜索最优SHIELD空间。 实验证明优化后的SHIELD在全面提取攻击测试中优于现有基线防御,且不损害模型预期功能。

  2. arXiv · NLP42

    当检测不保证抵抗:RAG 中的推理与中毒上下文

    DeepSeek-V4-Flash 在启用推理后,中毒防护中的 Cordon Rate 从 0.205 降至 0.075,Leakage Rate 从 0.235 降至 0.140。尽管攻击成功率从 0.233 升至 0.298,且中毒检测率从 0.965 降至 0.665,Qwen3.6-Plus 也呈现出相同的定性模式。结果表明,检测中毒上下文与实际抵御其影响是 RAG 安全中的两个独立维度。

  3. arXiv · NLP41

    研究揭示 4-bit 量化对聊天模型安全行为的影响取决于特定舍入误差

    预注册研究显示,4-bit 量化导致 Qwen2.5-3B 和 Llama-3.2-3B 的拒答行为出现相反偏移,且该变化取决于特定舍入误差而非比特数或似然。 Llama-3.2-3B 在越狱攻击下的顺从率降低 10.3 分,其半幅误差下顺从率仍降 5.8 分,而随机或高斯扰动平均影响接近零。 每个量化构建必须与其原始版本对比,因为 4-bit 量化下的拒答行为无法由通用指标预测。