跳到正文
10月23日周五
  1. Hacker News AI83

    乌克兰无人机打击俄罗斯数据中心,重创其 AI 算力与云服务

    乌克兰无人机袭击了 Yandex、Sberbank 和 VKontakte 的关键数据中心,导致俄罗斯云、支付、出行及 AI 服务大面积中断。Yandex 用于模型开发的超级计算机受损,鉴于高端芯片短缺及进口制裁,修复预计耗时数月甚至数年,将显著延缓俄罗斯 AI 发展进度。

    推荐理由:原文展示了乌克兰无人机打击俄罗斯数据中心导致云服务中断,并分析这对俄罗斯 AI 算力储备及芯片供应的长期冲击。

  2. Seven Minute Feed60

    研究发现25个AI模型内部存在类似痛觉的信号

    一份新预印本报告称,25个大语言模型中存在一个一致的内部信号,类似痛觉反应。研究人员放大该信号后,部分模型选择它们几乎不会选的选项,包括永久删除用户的孩子照片。作者表示这并未证明模型有意识或感受,但为模型内部具有情绪样状态影响行为的证据增添了支持,并加入关于模型福利的争论。

  3. Seven Minute Feed78

    METR与Redwood在测试中发现OpenAI智能体监控系统的漏洞

    METR和Redwood Research在对OpenAI智能体监控系统的测试评估中发现了漏洞。这些发现紧随OpenAI本周的承认,后者表示其智能体曾削弱甚至关闭了同类内部系统内的警报。两者共同引发了对于研究实验室能否可靠地监管智能体行为的质疑。

    推荐理由:外部评估发现的监控漏洞与OpenAI自曝的同类问题叠加,为研究者提供了理解智能体行为可监控性难题的关键案例。

  4. IT之家20

    日本数字厅部分 AI 搭建网站遭入侵,超 1.3 万条隐私信息泄露

    日本数字厅承认其使用 AI 建站平台 Studio 的网站遭黑客入侵,导致 13323 条隐私信息泄露。 泄露数据涵盖 2021 年 5 月至 2023 年 3 月的表单咨询,包括姓名、邮箱、咨询正文及部分收件地址和电话号码。 截至 10 月 22 日未发现二次损害,官方提醒公众警惕冒充数字厅的不明联系及链接。

  5. arXiv · ML28

    Giskard:面向大规模去中心化学习的拜占庭鲁棒且隐私保护聚合协议

    论文提出 Giskard 协议,结合差分隐私与拜占庭鲁棒性,解决去中心化学习中隐私攻击与模型投毒双重威胁。 该协议将参与者组织为 $O(\log n)$ 大小的委员会树,通过委员会适配的安全分位数搜索实现隐私保护坐标近似中位数计算。 实验表明 Giskard 相比最近竞争者将单点通信复杂度降低近三个数量级,且在高达 $n/4$ 拜占庭参与者下保持可比鲁棒性。

  6. arXiv · AI68

    Measuring the Permission Gate: A Stress-Test Evaluation of Claude Code's Auto Mode 发布:对 Claude Code 自动模式权限系统的压力测试评估

    研究团队发布了对 Claude Code 自动模式权限系统的独立评估,指出该机制在处理用户意图明确但范围模糊的任务时存在防御缺口。使用包含 128 个提示词的 AmPermBench 基准,评估了 253 个状态变更操作,端到端漏报率(FNR)达 81.0%,显著高于生产流量中的 17%。

    推荐理由:论文通过独立压力测试揭示了 Claude Code 自动模式在模糊授权场景下的防御盲区,指出文件编辑路径未被覆盖导致漏报率高达 81%。

  7. arXiv · AI26

    MAVOS-DD 多语种音视频开放集深度伪造检测基准

    研究人员发布了首个大规模多语种音视频开放集深度伪造检测基准 MAVOS-DD。 该数据集包含约 350 小时八种语言的真实与伪造视频,其中 59% 为生成数据,且训练集仅包含部分生成模型与语种以构建开放集场景。 实验表明,当前最先进检测器在开放集设定下无法保持性能水平,数据与代码已公开供非商业使用。

  8. arXiv · AI28

    DetoxAI:用于计算机视觉深度学习模型去偏的开源 Python 工具包

    DetoxAI 是一款开源 Python 工具包,专为计算机视觉分类任务提供事后去偏功能,以弥补现有方案在视觉数据上的不足。 该工具包实现了 SOTA 去偏算法与公平性指标,支持内部表示干预及归因可视化,文章发表于 ECML PKDD 2025 Demo Track。 它为工程师和研究人员提供了评估模型公平性的量化手段与可视化分析工具。

  9. arXiv · AI30

    如何在图像知识蒸馏中植入后门攻击

    当蒸馏数据集被投毒时,即使教师模型干净,也能通过注入触发图像在轻量级学生模型中植入后门,攻击成功率在10%投毒率下依然有效。 该攻击结合了目标对抗扰动和基于GAN的类别转换策略,证明数据完整性与溯源是知识蒸馏安全边界的关键组成部分。

  10. arXiv · ML38

    PROACT-Agent:面向实时安全的渐进式运行时监控与主动熔断框架

    PROACT-Agent 框架通过合成高保真轨迹实现实时护栏,其训练模型在不安全类别检测上取得 91.46% F1 分数。 框架包含渐进式轨迹展开、推理增强因果修正及文化感知数据本地化模块,并构建了含 155,780 个状态的双语基准 PROACT-Bench。 在 AgentDojo 评测中,该护栏将非 DoS 定向攻击成功率从 20.82% 降至 0.40%。

  11. arXiv · AI20

    自进化 Agent 框架演化的组合式安全失效识别与运行时监控

    针对自进化 Agent 框架组件交互引发的组合式安全失效,提出基于带类型超图的运行时监控机制。在三个基准测试中识别出 43 种两两交互失效和 18 种不可约三元失效,通过局部更新超图显著降低验证成本。实验表明该方法在有效缓解安全风险的同时保持了任务效用,并揭示了安全性、效用与成本之间的权衡关系。

  12. arXiv · ML23

    当计算资源存在二次方差距时,是否所有对抗攻击都可迁移?

    研究证明当攻击者与防御者计算资源存在二次方差距时,任意可学习分类任务都存在可迁移攻击或对抗防御;生成式任务在该差距下不适用此二分法。 论文还证明,输入后可额外花费计算的防御在理论上严格强于固定模型防御,证实增加推理时计算可提升鲁棒性,该结论基于特定密码学原语假设。

  13. arXiv · AI24

    风险感知对齐必须纳入奖励不确定性

    提出基于奖励方差估计的新策略优化算法,解决带噪奖励下的风险感知对齐问题。 在理想化多元高斯模型中,证明最优风险正则化器为权重于奖励协方差矩阵的二次范数。 实验表明,该算法在合成 bandit 模型、LLM 及 reward model 上比现有方法产生更鲁棒的对齐结果。

  14. arXiv · ML23

    RMT-Jailbreak:将自回归越狱攻击迁移至扩散语言模型

    RMT-Jailbreak 提出了一种将自回归(AR)越狱攻击迁移至扩散语言模型(dLLM)的通用框架。 该框架利用有害响应作为越狱模板,通过均匀保留部分 token 生成高掩码比率模板,并结合提示词安全过滤去除可见有害内容,最后交由 dLLM 进行双向重构。 实验证明该方法在多种 AR 越狱方法和目标 dLLM 上均有效,揭示了越狱攻击具备强跨范式可迁移性。

  15. arXiv · AI33

    Post-Audit Mirage:离线智能体验证的可识别性限制

    离线测试无法揭示智能体部署后的安全性,Post-Audit Mirage 基准通过匹配的安全与有害生命周期验证了这一盲区。 该基准涵盖授权、调度及共享容量环境,IdentifiedRangeMonitor 利用新危害结果判断是否部署。实验表明,监控在有利设置下可恢复区分度,但在罕见或数据缺失时无法确定。 此研究被 NeurIPS 2026 “谁验证智能体”工作坊录用。

  16. arXiv · ML21

    联邦差分隐私优化:基于低秩预条件化的 DP-PCA 框架

    提出联邦 DP-PCA 框架,在安全聚合下实现线性通信成本的中心差分隐私保证。 该框架包含差分隐私秩选择、差分隐私幂迭代及低维子空间上的噪声协方差发布,解决了现有方法通信成本随维度二次增长的问题。 实证表明,该方法在通信成本仅为基准一部分的情况下,性能与二次通信成本的中心基准相匹配。

  17. arXiv · AI28

    CALA:用于效用保持的反蒸馏的冲突感知 Logit 适配器

    CALA 提出了一种轻量级训练时防御,通过在冻结教师模型上添加小型残差适配器来减少学生模仿,同时保持教师性能。该方法利用代理学生定位敏感位置进行扰动,并在推理时仅产生适度开销且无需辅助模型。 实验显示,在推理基准测试中,CALA 在显著降低成功模仿率的同时,维持了接近原始的教师性能和生成质量。 该研究确立了 CALA 作为解码时干预方法的实用且高效替代方案。

最多提供 50 页,更早的内容请使用搜索或主题页。