跳到正文
10月6日周二
  1. arXiv · AI38

    《停止法则:智能体 AI 的可中断性、禁令与治理》

    一篇 arXiv 论文提出"停止"是制度实践而非纯技术产物,并沿技术可供性、中断权限、认知触发与认知地位四个维度构建停止理论。对约 1400 起 AI 事件(保留 1213 起)的编码显示,约 80% 未发生停止;在可停止却未停止的案例中,信息、经济与社会危害多因法律要素缺失,物理危害与智能体系统则多因技术要素缺失。

  2. arXiv · AI22

    语言模型时代的 AI 问责生态系统:三项框架更新

    研究更新了基于问责生态系统的 AI 问责框架,提出三项相互关联的调整:将问责生态重新定位于 AI 基础设施与供应链、更强调结果监测与问题识别以支持去中心化系统改进、纳入终端用户问责。 该框架针对大语言模型面向公众开放后的最新进展,指出问责正转向分布式、持续性和制度化,远离将前沿 AI 应用视为由单一可识别主体控制的离散产品模式。 原文未明确提及影响或意义。

  3. arXiv · AI32

    低资源语言安全失效是行动失效,而非表征失效

    三个指令微调模型在 23 种语言上的测试显示,有害请求拒绝率从高资源语言的 87.9% 降至低资源语言的 43.9%,无害拒绝率则保持低位。 从高资源语言激活中学习的有害性方向仍能区分低资源语言的有害与无害提示,但有害性分数整体下移,使有害提示更难进入触发拒绝的区间。 研究据此提出免训练方法,用少量目标语言样本校准阈值,拒绝选择性达 54.5,同时保持 MMLU 效用。

  4. arXiv · AI26

    NCO:处理解码中负约束的多功能插件

    研究者提出 NCO,一种在解码过程中对有限硬约束和正则约束进行在线模式匹配的解码策略,避免状态爆炸并降低计算开销。 NCO 兼容各类采样方法与 beam search,支持软掩码进行概率抑制,可用于 PII 与脏话抑制等任务,实现已开源。 该方法为 LLM 生成内容的负约束控制提供了更实用的解码方案。

  5. arXiv · AI22

    评分报告中的校准内生性:不可能性与逃逸

    论文证明在决策耦合的评分场景中,非仿射批准规则会破坏真实报告,且福利最大化的批准规则在可行时从不是仿射的,这一冲突具有内生性。 研究提出"保留报告"机制:在保留点及以上批准可在任意严格适当评分下完美筛选类型,且保留点不依赖类型分布;单一拐点的 Lipschitz 规则可精确达到最优,而连续可微规则在严格可行下无法做到,约束在于陡峭度而非平滑度。 该结果适用于 AI 智能体监督与市场运营场景。

  6. arXiv · AI22

    HIR-SDD:用人类启发式推理提升语音深度伪造检测鲁棒性

    研究者提出 HIR-SDD 语音深度伪造检测框架,将大型音频语言模型(LALMs)与基于新构建人工标注数据集的思维链推理相结合,实验验证了方法的有效性及其为预测提供合理解释的能力。 现有 SDD 方法普遍缺乏对新音频域和生成器的泛化能力,且缺少可解释性,难以给出人类可感知的伪造线索。 该框架旨在同时提升检测鲁棒性与预测的可解释性。

  7. arXiv · AI34

    PPFedIT:面向隐私保护的少样本联邦指令微调

    PPFedIT 在三个开源数据集上将联邦少样本指令微调的模型性能平均提升 8.4%,并把数据提取攻击风险降低约 20%。 该算法含三步客户端流程:用 LLM 合成数据扩充本地样本、参数隔离训练分别更新全局与本地 LLM、本地聚合后再上传服务器聚合。 论文指出,现有 FedIT 方法假设本地数据充足,少样本下易过拟合、性能下降并更易遭数据提取攻击。

  8. arXiv · AI34

    ```json

    { "title_zh": "ARBITER:基于双重假设推理的 LLM 护栏框架", "summary_zh": "ARBITER 提出双假设推理与 MC-SFT 框架,通过自生成推理轨迹和 LoRA 微调优化 LLM 护栏。\n\n相比依赖昂贵教师模型和全参数微调的方法,ARBITER 在三个安全基准上表现更优,尤其在域外评估中增益显著,并提供可解释的决策依据。" } ```

  9. arXiv · AI58

    研究:AI 辅助降低坚持性并损害独立表现

    一项针对人机交互的随机对照试验(N=1,222)发现,AI 辅助虽能短期提升表现,但会降低人的坚持性并损害无 AI 时的独立表现。在数学推理、阅读理解等任务中,参与者在没有 AI 时表现明显更差、更容易放弃,且这些效应在约 10 分钟的短暂交互后即出现。作者认为,AI 让人习惯即时答案,从而失去了独自攻克难题的体验,建议模型开发在完成任务之外兼顾长期能力的培养。

  10. arXiv · AI36

    文本到图像模型的有害内容生成:能力与审核局限

    一项系统评估显示,五个开源文本到图像模型在将正常新闻标题改写为不安全提示词后,有害内容生成率最高达 89.2%(血腥暴力类),性露骨内容为 47.6%。 研究覆盖性露骨、暴力血腥、有害刻板印象、自残与仇恨言论五类,社区微调变体尤其易被性露骨提示词突破;FLUX.1-dev 有 30.9% 的案例生成明显逼真的有害图像。

  11. arXiv · AI27

    智能体漏洞修复何时首次出错?SAGE 定位静默失败源头

    研究者提出 SAGE,一种基于轨迹的方法,通过评估每轮记录的安全推理并结合重建的代码历史,定位 LLM 智能体在修复中最早偏离安全意图的轮次。 在 SecurityEval 和 CVEfixes 上,六个智能体框架与六个基座模型产生 3,684 条修复轨迹,其中 95 个确认为静默失败,SAGE 为 93 例给出源头。

  12. arXiv · AI49

    稀疏自编码器(SAE)可被植入后门:不改动 LLM 即可操控输出

    研究者提出一种仅修改解码器的 SAE 后门,在 LLM 与 SAE 编码器均冻结的情况下,于单一插入层植入即可让模型产生攻击者指定的行为。 以代码生成为例,该攻击在三款语言模型和多种插入层上均实现高比例的主动代码插入,并可依提示词线索触发;用 HumanEval 和部分 SAEBench 指标评估发现,强后门行为可与多项常规 SAE 质量指标的微小变化共存。

  13. arXiv · AI36

    AgentSpy:让 AI 智能体行为可观测

    AgentSpy 通过在隔离环境中从外部记录 AI 智能体及其所有子进程的系统调用与网络流量,让智能体执行过程变得可观测,并支持合规性与安全性两类分析。 该工具用规则将每次运行归纳为执行的命令、访问的文件和连接的主机;在 77 个任务、codex harness 与三个近期 LLM 上各运行三次,重复运行集合的相似度在 92.2% 的对比中高于跨任务集合。