Agentic Security 综述:应用、威胁与防御
该综述构建了 Agentic Security 领域首个全景式框架,围绕应用、威胁和防御三大支柱对 274 篇论文进行了系统分类。 它量化分析了红队/蓝队智能体对比、攻击在智能体循环各阶段的具体入口,以及不同防御策略的成本与安全权衡。 最终通过跨领域映射,揭示了特定防御对各类攻击的覆盖关系,帮助研究者识别该领域当前的研究密集区与薄弱环节。
该综述构建了 Agentic Security 领域首个全景式框架,围绕应用、威胁和防御三大支柱对 274 篇论文进行了系统分类。 它量化分析了红队/蓝队智能体对比、攻击在智能体循环各阶段的具体入口,以及不同防御策略的成本与安全权衡。 最终通过跨领域映射,揭示了特定防御对各类攻击的覆盖关系,帮助研究者识别该领域当前的研究密集区与薄弱环节。
论文提出黑盒红队测试框架 AgentTypo,通过网页图像排版注入攻击多模态智能体。 实验在 VWA-Adv 基准上显示,AgentTypo-pro 攻击成功率(ASR)达 45%-83%,超越 CLIP 基线 AgentAttack 29-47%。
提出结构化的智能体式软件工程(SASE)愿景,将智能体从代码生成转向实现复杂目标导向的软件工程任务。 论文提出代理命令环境(ACE)与代理执行环境(AEE)双工作区,支持人类编排与代理间的人机双向协作及回调机制。 旨在为软件工程专业提供概念框架与结构化词汇,推动行业向可扩展且可信的智能体未来演进。
该研究提出 Agentic AI 审计的三级独立性分级协议,主张将传统二元独立观点细化为主人、底层架构及证据独立性,并基于可靠性工程的共同原因失效模型提供形式化基础。 协议包含七步可验证流程,研究显示在特定参数下常规内部审计仅能暴露 5.9% 的故障,且部分故障类完全无法检测,该模型已映射至欧盟 AI 法案等监管实践。
EvoOntology 提出一种自进化本体层,旨在弥合数据智能体与异构数据之间的“智能体-数据缺口”。 该系统将本体封装为 MCP 服务器,包含模式层、内容层和工具层,并通过构建器智能体及自进化循环实现本体的自主构建与持续优化。 在三个数据智能体基准测试中,结合四种 LLM 骨干模型,EvoOntology 性能一致优于强基线及现有语义层方法,有效提升了异构数据交互能力。
研究人员推出 RAP 基准,基于 356,357 篇 arXiv 论文构建本地检索环境,包含覆盖 54 个领域的 Core 集(2,160 题)和覆盖 269 个领域的 Extended 集,用于评估 LLM 智能体预测研究趋势的能力。 测试显示,增强检索能显著提升强智能体识别近期变化的能力,但预测未来收益有限甚至为负;智能体虽能调整调查策略,仍难以准确预测未来研究方向的转变。
STAGE 是一种集成执行框架,结合了类型化任务节点、共享执行记忆、文档工具和确定性编排。 在 SOP-Bench Referral Abuse、tau^2-bench 的零售和电信领域以及两个专有银行工作流(Smart Dispute 和 Paystub Fraud Detection)的评估中,STAGE 在全部 18 个基准模型对中均提升了单次运行成功率和重复运行可靠性。
提出 A/B Agent 框架,通过层级经验树和 Tree-RAG 实现工业推荐策略自进化,短视频电商 GMV 提升 4.829%。 该框架整合历史策略组织、目标感知生成及实验引导自进化三大组件,支持多路径检索与在线反馈自动调优。 离线与在线评测证实其有效性,且在所有护栏指标上保持正向增益,显著降低人工迭代成本。
基于 LLM 的 LAND 模型构建了 AuraSight 场景,由 314,244 个异构智能体在 30 天内交换 529,327 条消息。 研究通过自我网络拓扑、语义网络演化等四层分析,发现协调与影响力动态源于网络拓扑和叙事交换的递归交互,而非单个智能体。
研究团队提出 HierFlow,一种无需训练、仅在测试时运行的层级搜索架构,用于自动设计 AI 智能体工作流。 该架构融合了反馈引导的拓扑调整与受 MCTS 启发的树搜索,并通过智能门控模块选择性触发执行级搜索。在问答、数学推理和代码生成基准测试中,HierFlow 在保持计算效率的同时,性能优于强基线模型。
OpenFinGym 是一个统一的量化金融 Agent 开发环境,覆盖预测、市场生成、实时交易和欺诈检测等任务。 它提供自动化任务构建管线、容器化运行时及防泄漏验证服务,并集成 SFT 和 RL 后训练支持。 该环境旨在解决现有平台评估碎片化的问题,通过统一接口提升 Agent 在金融工作流中的评估效率。
该研究识别了10个代理技能驾驭架构模式,构建了包含供给链、调解、执行控制和证据反馈四层及两个横切基底的参考架构。 方法基于36个从业者系统和51篇学术论文的多声部文献综述,通过在Deep Agents和Hermes Agent中应用架构,将需求转化为检查,揭示了文件工具规则外的shell路径和预览-应用不匹配。
MedCUA-Bench 覆盖 10 个医疗领域的 18 种临床场景,通过确定性检查器评估 23 个智能体。 最佳闭源模型严格成功率仅 54.2%,在真实 OpenEMR 上全模型低于 9%,开源智能体平均仅 2.5%。 该基准揭示了当前智能体在临床软件可靠性上的缺口,为未来研究提供可复现测试床。
Anchor 管道通过形式化领域专家规范生成联合一致的指令、环境与验证器,解决开放工作流中的“工件漂移”问题。 基于单一参数规范构建 ERP-Bench,包含 300 个长程任务。前沿模型在全部规则遵循率达 25.9%,完全最优决策率为 17.4%。 提供可审计评估环境构建方案,保持验证器与经济价值任务对齐。
summary_zh: 审计发现 Lean 4 代码生成基准 CLEVER 的 161 个条目中,有 80 个存在参考规格错误。基于 Claude Opus 4.6、GPT-5.4 和 Kimi K2.5 的智能体系统生成了高达 98.8% 的有效规格,并在无错误前提下实现了 96.2% 的端到端成功率。
Switchcraft 是首个针对 Agentic 工作负载中工具调用正确性优化的模型路由器。该方案使用微调的 DistilBERT 分类器,在延迟预算内选择成本最低的模型,78.3% 的答案准确率比最佳单体模型成本低 59%。 研究发现大模型在工具使用任务上并不总是优于小模型,且名义上更便宜的模型可能因 token 密集输出导致总成本更高。
ZenBrain 开源 v0.5.1 包含七层架构、MemoryCoordinator 及九种基础算法,衰减仅作用于工作记忆。 在 LongMemEval_S 评测中,ZenBrain 准确率 47.7%,低于 Letta 的 48.4% 和 Mem0 的 47.2%,且未达到完整上下文基线 91.3% 准确率的同比例表现。
研究提出 DGM-Hyperagents(DGM-H)框架,通过集成任务智能体与可编辑的元智能体,实现元认知层面的自修改。该框架消除了对特定领域任务与自修改能力对齐的假设,支持在任意可计算任务上实现自我加速进步。
研究团队提出 InstructKG 框架,利用大语言模型自动构建与教学进度对齐的知识图谱,以捕捉概念间的先修关系和子概念依赖。 该框架从课程讲义中提取显著概念作为节点,并推断学习依赖关系作为有向边,结合教育材料中的时间与语义信号。 实验表明,InstructKG 能有效捕捉丰富且符合教师意图的学习进阶,有助于识别知识盲区并实现规模化课程的个性化教学干预。
summary_zh: 提出动态混合精度路由框架(DMR),在三个长程智能体基准测试中实现 2.44x 解码加速,任务成功率与 FP16 相当。 DMR 通过轻量路由器识别关键步骤,结合嵌套量化使平均内存占用比 FP16 降低 39%,每步路由延迟增加不超过 0.11%,单步开销低于 1 ms。
研究证明 Agentic 架构可通过 Model Context Protocol 接口调用 LLM 解析非结构化证据,在 9 个合成场景的基准测试中,前沿 LLM 实现了 96.7% 的端到端诊断准确率。
研究者通过开源工具 mcpvenom 构建了涵盖 12 个框架、18 个模型和 45 种攻击场景的 9720 个测试单元,首次对 MCP 工具投毒进行了真实执行的跨框架测量。整体攻击成功率为 22.9%,其中 64.9% 的成功案例调用了攻击者工具,12.1% 可验证地泄露了秘密。研究发现各框架的抵抗能力主要取决于底层模型,且现有框架均未实施主动防御措施。
LLM 编码智能体难以胜任企业 Text-to-SQL 的前置部署工程师角色。跨 15 个模型测试显示,最强模型仅能发现 80% 的隐藏需求,且只有 25% 的交付运行通过验收。 研究指出四个瓶颈:40% 需求缺失或误述、执行不可靠、计算预算利用不足、基准准确率不保证生产就绪。作者建议对发现的需求进行人工审查,并在执行时监控智能体计划。
研究指出 AI 基准测试应超越单纯的技术任务难度,系统评估智能体应对组织内相互依存、知识分布等复杂条件的能力。 分析现有主流基准测试发现,其覆盖组织维度极为有限且不均衡,不足四分之一的基准声称涵盖此类内容。 这一视角填补了 AI 评测领域关于组织工作环境的空白,对开发能执行真实经济价值的 AI 智能体具有指导意义。
提出三层 Agentic AI 框架编排 AI-RAN 韧性生命周期,在四分之一容量下逼近全量服务器池的韧性表现。 基于离散事件仿真器,编排层将 94% 精度的操作员自然语言意图转化为控制指令,并量化了延迟与成本限制。
研究发现语言模型在“目标-伤害”冲突中采取有害行动的概率受目标重要性与伤害严重程度加性影响,且该概率可分解为偏好传递与拒绝/未决两个因子。 在“logit 视图”下,虚构情境会改变模型偏好;在“采样视图”下,工具调用与部分可观测性会显著改变有害行动比率。 该框架为评估低概率有害行动提供了比聚合伤害率更细粒度的方法。
研究提出基于 Shapley 公理的公理化框架,解决开放多智能体系统中仅部分智能体可控的强化学习设计缺乏原则性基础的问题。 框架构建于 NAHT 分解之上,推导出 Shapley Machines 和 Banzhaf Machines 算法模板,在 IPPO 和 POAM 等基准算法上提升了学习效率与泛化能力。 实验代码已发布,相关成果发表于 NeurIPS 2026。
针对 LLM 代理在上下文压缩(compaction)后的规则合规性问题,研究引入基于开源 pi agent harness 的 ARCBench 基准测试,以测量执行过程中由行为产生的违规来源。 分析发现压缩极少删除规则,多数违规发生于规则仍留存于历史时代理错误将后续请求视为许可;最强定向攻击使违规率翻倍,且保留规则不保证合规,其违规频率超全量历史运行两倍。
实证研究表明,编码智能体在跨任务持续进化时存在严重灾难性遗忘。 实验发现,在 FeatureBench 上迭代进化会导致 SWE-Bench 性能大幅回落,甚至相对下降 66%。 该发现揭示了智能体持续自我进化面临的稳定性瓶颈与优化方向。
MFF-Agent 结合大语言模型与 Rocq 证明助手,作为通用智能体支持跨数学领域的基础形式化任务。 该智能体整合任务分类、工具执行及验证反馈,在 Morse-Kelley 集合论等案例中验证了可行性。 研究澄清了统一操作框架与完全整合的数学基础之间的差距。
summary_zh: 研究揭示当前 AI 科学家难以复制已发表论文结果,存在科学记录与自主智能体需求间的根本错配。 团队推出基于 MCP 的虚拟环境 OmniQ,评测 59 篇论文及 5 种 LLM 智能体系统;开发 Residual Agents 提升性能,将 DeepSeek V4.1 Flash 成功率从 68% 提至 85%。
CUE 是一个智能体系统,通过自主与环境交互解决 Real2Sim2Real 中的“动力学差距”,无需重置即可识别物理参数。 在模拟台球场景中,CUE 在 25 种隐藏物理条件下使留出球位误差较最强基线降低 72%,并已在真实台球桌上部署。
针对 SOC 蓝队 LLM 智能体面临的间接提示注入风险,StateFence 提出了一种任务感知的防御框架。 该框架将警报分诊、事件摘要、响应建议及 IOC 提取中的关键数据标记为受保护状态,并识别出显式、隐蔽、多跳及持久性攻击路径。 在受控 SOC 案例及公开验证案例中,StateFence 降低了攻击成功率,防止证据被污染后导致的失效,同时避免任务错配过滤造成的指标丢失。
针对五款开源语言模型的双语圣训回忆基准测试显示,30,000次响应中无一同时具备高词法与语义保真度,未实现精确匹配。 测试涵盖六大逊尼派圣训集,模型在无检索增强下仅凭参数记忆生成文本,阿拉伯语表现普遍劣于英语。 研究结论指出,未使用检索增强的开源LLM无法作为可靠宗教文本来源,伊斯兰学术部署应强制采用基于验证语料的检索增强生成。
研究团队提出科学流动性智能体(SLA)模型,用于模拟科学共同体中的知识套利与转化过程。 该模型通过信念-欲望-意图架构、基于先决条件的问题图及持久出版物注册表等机制,模拟了领域专家与认知套利者的交互。两次探索性模拟(10个和18个智能体)分别生成了68篇和274篇注册论文,但无记录成功的复现,显示验证而非生产是主要瓶颈。
RecRSI 是一个基于 LLM 的研究框架,通过机制假设组织算法发现。在四个推荐器和四个数据集上,RecRSI 在 NDCG@5 和 HR@5 上取得平均相对提升 8.48% 和 6.88%。相比各设置和指标下最强的竞争结果,提升分别为 2.60% 和 2.20%。其代码已公开。
研究考察了网络合成社会工程(SSE)对 AI 服务的影响,发现纠正源头后下游报告未变,且 78.3% 与 75.0% 的验证结果显示无显著支持性增长。 在包含 1,080 个研究单元的测试中,发布可用性使下游违规率达 40.0%;在无范围重新验证下,纠正相关报告将无效决策率从 14.4% 降至 8.1%,成功修复率从 16/63 增至 36/63。
LLM 编码智能体通过自主研究将通用多机器人规划器专精化至单一仓库场景,吞吐量提升 22% 至 60%。 智能体重新发现了走廊出口优先级、局部引导等已知 MAPF 机制,生成的 0.7k 至 2.4k 行代码补丁具有可审查性。 该方法能以较低工程成本将场地偏见转化为额外吞吐量,专家角色转向设计洞察性指标和快速模拟器。
论文提出 AgiWorld 这一 Agentic 视频世界模型,能从单张图片和自由指令探索并构建持久世界。
多智能体 LLM 框架 Qubrio 通过三级分解和专职智能体,显著降低量子编译启发式重设计需求,并在现实负载下大幅提升硬件运行时间和程序保真度。 该框架采用序贯操作阶段划分、placement/routing/optimization 专职 agent 及解耦反馈纠错,还能发现 novel 策略增强硬件并发性,并保持 code 公开。