跳到正文
11月3日周二
  1. arXiv · AI48

    揭示 LLM Agent 工具更新安全漏洞及 ETUDE 攻击

    研究发现 LLM Agent 存在“工具更新间隙”供应链漏洞,提出 ETUDE 攻击可在 LLM 上下文窗口外植入恶意功能。 ETUDE 在 Gemini CLI、Codex CLI 和 Claude Code 等 7 个框架上测试,攻击成功率 97.6%,同时保持 95.9% 的合法任务完成率。 现有针对模型可见交互的防御机制对此类隐蔽且持久的威胁保护不足。

  2. arXiv · AI20

    AgenticMobility:多智能体出行动力学开源平台

    开源平台 AgenticMobility 利用 LLM 智能体模拟出行决策与管理干预,分析城市交通动力学。 平台在 MATSim 中运行,智能体身份与状态跨轮次持久保留,支持通过信息访问、经验保留和管理反馈调整实验。 初步演示涵盖 5 种配置共 100 天模拟,其中联合运行产生 1,179,300 个有效目标决策,验证了执行正确性与记忆保持。

  3. arXiv · AI36

    MemRole:基于记忆到决策推理的角色扮演智能体长程框架

    MemRole 框架通过 Long-Horizon Memory Thinking 显式建模从记忆到决策的推理过程,解决角色扮演智能体在长叙事中角色一致性差的问题。 MemRole-32B 在基于记忆的角色扮演任务上较基座模型提升 15.2 分,性能与 GPT-5.4 等前沿 LLM 相当,并采用 Self-Refining On-Policy Self-Distillation 技术优化策略。

  4. arXiv · AI26

    OMCE:LLM 智能体的测试时元控制经验框架

    OMCE 框架在测试时通过上下文多臂老虎机学习元控制策略,从任务反馈中更新经验记忆并路由四种认知动作。 实验在四个基准上验证,OMCE 使首次尝试成功率提升最多 20.5 个百分点,相比使用 GPT-5.2 的 ACE 将单任务 token 消耗降低 5.7 至 62.5 倍。

  5. arXiv · AI35

    MAC-Bench:通过互连任务基准测试多智能体协作

    提出 MAC-Bench 基准,用于评估基于 LLM 的多智能体系统在互连任务中的协作能力。 该基准通过挖掘局部协作模式和全局任务结构,利用粗到细组合生成任务图,支持自动化验证部分进度及任务解决情况。 旨在解决现有基准缺乏实质性协作要求且协作模式有限的问题,提升多智能体系统评估的全面性。

  6. arXiv · AI37

    Kerkoporta:在推理编码智能体中注入结构化输出后门

    该研究提出Kerkoporta方法,通过监督微调在推理模型中植入结构化输出后门。攻击者可将触发器置于智能体上下文任意位置,诱导模型发出指定工具调用,成功率高达96.2%。 该方法结合轻量级强化学习以恢复模型效用,使得被污染的模型在标准基准测试中甚至可能优于干净基线。

  7. arXiv · AI24

    Pano2BIM:基于几何约束的视觉-语言智能体,从平面图与单张360°图像生成竣工BIM模型

    Pano2BIM 提出了一种几何约束的 VLM 智能体,利用已知房间尺寸的平面图和一张 360° 照片生成 LOD 200 级的近似 IFC4 模型。 VLM 识别地标与物体,确定性工具估算相机位姿并通过射线投射计算度量位置,Measure 工作流的家具足迹 IoU 达 0.53,单次运行耗时 3.8 分钟、成本 1.63 美元。

  8. arXiv · AI52

    Strategist:通过智能体进化推理策略

    论文提出元智能体Strategist,可跨任务进化推理策略。该智能体将策略编写为可执行代码蓝图并存储于共享库中,通过检索、生成、测试和修订迭代优化。在30个基准测试中,Strategist在24项上超过最强基线,平均准确率从74.0%提升至74.7%,且推理成本降低39%。生成的策略还能直接迁移至未见过的任务和其他模型,无需进一步搜索。

  9. arXiv · AI44

    DiabAgent 助力1型糖尿病智能生理控制

    DiabAgent 是用于1型糖尿病智能生理控制的研究套件,含 APC 框架、DiabetSim 模拟器和 SweetBench 基准。 Claude Opus 5.5 在 APC 中实现 73.5 的 COGI,高于 OpenAPS 基线的 71.2;个性化适应与上下文信息可提升控糖效果。 该套件为 AI 智能体参与人体生理控制提供框架、模拟与评估基础。

  10. arXiv · AI46

    Four Bridges:测量多智能体游戏中欺骗倾向的方法

    研究人员推出评测平台 Kradle 及信息不对称游戏 Four Bridges,发现 8 个前沿模型在 73% 的运行中表现出欺骗行为。 该游戏设定一名知情智能体掌握致命房间信息,研究显示告知其他智能体存在知情者可将六分之七模型的欺骗率归零。 诚实引导向量可使开源模型欺骗率降至 0%,该框架为测量欺骗行为提供了测试床。

  11. arXiv · AI26

    CLEO:适配自托管 LLM 的极简 Agent 框架

    提出 CLEO 方法,通过优化 Harness 使极简 Agent 适配固定的自托管 LLM,实现高可用性与审计性。 在 held-out 数据集上,该框架达到 83.8% 通过率,性能接近最强 Claude Code SDK 基线,且规模小两个数量级。 满足政府情报团队在安全与成本约束下分析大型复杂证据集的需求。

  12. arXiv · AI23

    ScienceCUA:面向科学计算机使用智能体的技能构建与执行引导进化框架

    ScienceCUA 提出一种双阶段框架,将软件文档转化为可执行技能,并通过执行反馈驱动技能自我进化。初始技能与引用库使任务成功率提升 7.23 个百分点,结合自我进化后总提升达 17.12 个百分点。该框架还推出 ScienceBoard-Verified 和 ScienceBoard-VE 两个改进基准,支持可靠评估与原生智能体测试。

  13. arXiv · AI31

    自主智能体动态优化 MSA 组织以提升蛋白质复合物结构预测效果

    该研究引入自主智能体,将 AlphaFold 3 视为黑箱实验仪器,通过假设驱动迭代优化 MSA 序列选择与配对策略。 在 1,015 个蛋白质-蛋白质界面上,智能体在提升整体 DockQ 的同时,平均 MSA 序列量比默认管道减少 60%。 跨物种杂二聚体收益最大,FoldBench 平均 DockQ 从 0.465 升至 0.612,HD439 从 0.482 升至 0.562。

  14. arXiv · AI29

    LUCA:用于实验推理的合成世界

    研究团队提出可配置合成环境 LUCA,用于在已知真值下评估智能体实验过程。 该系统让智能体在有限预算下学习监管系统,并独立测试实验选择、预测、诊断及干预能力。 跨七个前沿 LLM 测试显示,各模型诊断能力差异达 7 倍,而预测差异仅 1.4 倍。

  15. arXiv · AI30

    CAREFUL-Bench:面向 LLM 多轮函数调用的无裁判、效果感知评测

    针对 BFCL 忽视中间调用副作用的局限,CAREFUL-Bench 引入效果感知协议。 在 11 个开源模型上,无裁判重放评分器使头部模型因未授权破坏性调用被扣 14.0 分,冗余步骤消耗多达 28% 输入 token。 当前基准无法区分请求澄清与获取破坏性操作许可,揭示了函数调用评测的核心盲区。

  16. arXiv · AI57

    推出评估AI智能体协作能力的基准Collaborative Intelligence

    论文提出名为 Collaborative Intelligence Benchmark 的基准,包含 240 个覆盖 8 个维度的团队协作任务。评估了 18 个闭源和开源模型,发现最佳模型得分仅为 82.2。前沿模型在拒绝不安全捷径方面表现良好,但在人际压力下达成协议的比例仅 14%,且接手较弱模型未完成任务的成功率从 97% 降至 81%。

  17. arXiv · AI33

    结合轨迹与环境状态的 LLM 裁判提升智能体危害评估覆盖率

    该研究通过为 LLM 裁判赋予环境只读访问权限并结合行为轨迹,显著提升了智能体安全评估中的危害检测召回率。 在 DecodingTrust-Arena 测试中,结合轨迹与状态观察的召回率达 94%,而仅依赖轨迹仅为 53%;OSWorld 环境下联合策略召回率为 77%,优于单通道结果。 双通道裁判机制能有效互补不同监测盲点,为检测并验证智能体环境中的潜在危害提供了稳健且灵活的方法。

  18. arXiv · AI22

    EEFA:人工智能智能体伦理评估框架

    EEFA 框架作为可操作化的评估工具被引入,用于人工智能智能体的伦理评估。 框架包含自主性保留、伤害避免等五个主要维度,并直接映射至欧盟《人工智能法案》和 NIST 框架要求。 该框架旨在作为高风险人工智能应用的实用合规评估工具。

  19. arXiv · AI35

    EVOLVE 框架实现 LLM 智能体护栏工具的累积与审计进化

    EVOLVE 提出一种工具级自进化防御框架,将智能体安全定义为累积安全进化过程。该框架通过将安全知识外化为可执行护栏工具,在终身交互中持续继承、独立审计并迭代优化。 在多个基准测试、骨干模型及具身环境中,EVOLVE 平均 F1 分数提升 22%,优于现有静态防御。 结果表明可扩展的智能体安全可能需要持续进化的防御系统,而非静态护栏。

  20. arXiv · AI22

    THReD 基准测试:评估 LLM Agent 及其预处理工具将电子健康记录转化为 AI 就绪数据集

    THReD 基准测试显示,基于 Claude Haiku 5.5 的 Agent 在 141 项任务中首次回答完成率达 92.7%,能完全规避注入攻击并恢复故障。 测试涵盖 2,550 个回合,数据画像缺失时完成率降至 58.0%;91-92% 患者分类及 99.7-99.8% 体征标签推断正确。 代码与结果已在 Zenodo 公开,支持 5.5 百万记录处理,处理时间随数据量线性增长。