热点事件持续更新

间接提示注入基准：越权攻击与防御漏洞

1 篇报道1 个报道来源23 小时前更新

先了解这件事

AI 综述

研究者发布间接提示注入基准测试。该基准包含90例基于权限边界的案例，攻击者通过篡改任务结果实施越权攻击。测试显示，针对规则、动作及状态模型的无防御成功率较高。虽然删除防御能将目标攻击成功率降至2.4%，但状态攻击仍有12.1%的漏洞。现有防御机制覆盖不足，相关代码与数据已开放。

AI 根据报道生成 · 21 小时前更新

最新进展11月6日 13:00

沿着报道，了解事件的不同侧面。

11月6日

13:00
arXiv · AI
任务篡改攻击下的间接提示注入基准测试
研究者定义了90例基于权限边界的间接提示注入基准，攻击者通过篡改任务执行结果而非重定向任务来实施攻击。在5个大语言模型测试中，针对决策规则、可用动作及状态模型的无防御平均成功率高于针对目标模型的攻击；检测删除防御虽将目标攻击成功率降至2.4%，但仍留有9.5%的观察和12.1%的状态攻击漏洞。现有防御机制对此类攻击存在覆盖不足的问题，代码和数据已开放获取。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。