可执行有限状态机控制如何让 LLM 智能体在长程任务中保持程序遵循
可执行有限状态机(FSM)通过在工具调用、状态转换及回合结束点强制执行,有效减少 LLM 智能体长程运行时的程序漂移。SOP-Bench 实验显示,配备 FSM 的 Claude Haiku 4.5 平均正确决策 139 个账户,显著高于最强基线的 48 个,且成本仅为 Claude Sonnet 4.6 的 38%。该研究表明,通过增强运行时执行控制而非仅依赖更强模型,即可实现可靠的长程自动化。
可执行有限状态机(FSM)通过在工具调用、状态转换及回合结束点强制执行,有效减少 LLM 智能体长程运行时的程序漂移。SOP-Bench 实验显示,配备 FSM 的 Claude Haiku 4.5 平均正确决策 139 个账户,显著高于最强基线的 48 个,且成本仅为 Claude Sonnet 4.6 的 38%。该研究表明,通过增强运行时执行控制而非仅依赖更强模型,即可实现可靠的长程自动化。
WARP-JEPA通过冻结世界模型和摊销规划,在30个H-JEPA模型上将长时程任务推理速度提升9.6至18.8倍,任务成功率提高33.3个百分点。 该框架采用世界模型在环因果Transformer和多残差MLP,结合基于模型的代价与最佳K行为克隆训练,无需测试时梯度优化。 结果表明摊销规划可在不重训练世界模型的情况下,显著提升推理效率与控制性能,代码已开源。
BlenderFORGE 是一个可训练的数据环境优化框架,旨在提升开源权重多模态大语言模型(MLLM)通过 Blender Python 代码执行 3D 场景编辑的能力。
arXiv 论文《No Second Run: Does RSI Stop at Frontier Pre-training?》提出将递归自我改进(RSI)应用于从零开始的前沿预训练,并开源 30B-A3B MoE 模型 801-30B-A3B-Base 及轻量 SFT 数据。
论文提出 MMGraph-Agent,一种基于缓存启发的多模态知识超图的统一多模态 RAG 框架,旨在解决现有方法的高构建成本、上下文窗口限制及离线/在线知识源缺乏统一训练的问题。
新基准 DFT-Agent Bench 评估了 200 多个 Quantum ESPRESSO 任务。完整 v5.1 脚手架在多个维度上提升了性能。 该基准包含带有参考值验证的 QE 衍生真值。provenance 审计检查执行合同是否满足。 在两个模型上,bands+DOS 指标分别提升 +0.08 和 +0.11。d-electron vc-relax 提升了 +0.17。
LLM Agent 后端模型升级未必能保持身份一致,实证研究表明行为漂移取决于具体模型配对。 研究在 12 个受监管领域进行 5,760 次合规测试,发现部分模型过渡会导致显著行为漂移,且这种漂移无法通过口头验证发现。 实践者应视模型过渡为需进行行动级实证测试的行为变化,而非透明基础架构操作。
SimuLean是一款基于Unity引擎的开源3D离散事件仿真器,专为AI智能体编程设计。在18项制造建模任务中,前沿智能体单次构建有效模型成功率为86%。 该智能体能在约2分钟内通过领域级命令完成建模。工业案例显示,智能体重建模型与修正后的专家模型偏差在1%以内。 独立参考模型是确保智能体仿真结果可信的关键。
InfoOrgBench 包含 150 个任务,测试智能体将会议记录等散乱信息组织为层级结构的能力。 评估 45 个系统显示最优分 83.2,但会议记录任务得分未超 78;模型选择对分数影响(跨度约 27 分)远大于 Agent harness 选择。 结果表明父级关系错误率高于叶级,设计提案中近半数输出存在此类高层级错误。
论文提出 LLM 智能体当前的探索属于随机性而非好奇心,并定义满足特定预测结构的好奇心框架。 机制上,温度、RAG 等仅改变采样或条件,无法在线更新环境模型;真正的智能体需具备持久超越上下文窗口的预测能力。 该观点为 LLM 智能体实现真正开放探究指明了研究方向。
提出 Agentic RAG 框架 PatternBloom,将检索单元从内容转移至逻辑,通过外部化程序性知识突破推理深度瓶颈。 采用两阶段 RL 训练:第一阶段利用信息密度奖励(IDR)评分证据图,第二阶段通过模式增强奖励(PAR)结合图模式记忆(GPM)。
BunshinRL 是面向智能体强化学习的推理系统,利用环境状态共享与重复工具调用优化并发效率。 它基于 BunshinFork 实现容器全工作区分叉,通过跨环境内存共享、工具前缀缓存及投机工具执行,将峰值内存降低最多 43%,总内存消耗降低 51%,端到端延迟减少 23%。
TurnFlow 发布,用于评估多轮对话中 LLM 保持、修订并执行用户需求的能力。 该基准包含 490 个场景,结合自适应用户模拟与可验证评判。9 个 LLM 的整体通过率在 42.86% 到 59.59% 之间。 模型在范围蔓延和目标转移等挑战类型上表现仍不十分可靠。
DARE 框架提出了一种离线事件驱动的重训练策略,将重训练视为序贯决策问题。 在 Airline 数据集测试中,锁定后的 LinUCB 策略在提高平均 F1 分数的同时,显著降低了干预频率。 评估显示,这些性能提升在计入累计更新实际耗时后依然成立,表明该策略能减少不必要的运营开销。
针对现有防御忽视多步执行风险传播的局限,提出尾部风险感知的智能体安全(TAS)框架。该框架将智能体工作流建模为马尔可夫决策过程(MDP),通过共享预算约束极端且罕见的尾部风险,而非仅关注平均风险。 实验结果显示,TAS 在三个基准上对比十一个基线方法均取得更优性能,有效抑制高成本失败同时保留正常情况下的效用。
提出即插即用验证器框架以稳定长程智能体推理。该框架通过解耦过程验证,利用领域特定验证器评估中间推理工件,并生成有界过程奖励。 在 Qwen3.5-4B 模型上结合稀疏结果奖励进行两阶段后训练。在 HotpotQA 基准测试中准确率超过标准 GRPO 基线。 结果表明该模块方法能学习更稳定可靠的长程推理行为。
使用大语言模型审查 PubMed 中 7,859 篇灾害心理健康文献,生成该领域的计算地图。 利用 Claude Sonnet 提取摘要结构化变量,发现研究集中于地震、疫情和 PTSD,但罕见使用机器学习。 该地图凸显计算方法的未被充分利用及地理与问题覆盖的偏见。
META-IR 提出一种基于元学习的元内省推理框架,用于增强 LLM 的安全对齐。 该框架采用双循环架构,结合 SI-MCTS 进行结构化风险分析与自我修正,并通过动态越狱模拟实现无监督持续改进。
Causal Discovery Bench 基准测试在 3,802 个回合中评估 5 家厂商的 13 个 LLM,发现 94.5% 的错误源于实验设计而非推理。 测试包含 7 大类 40 项指标,验证单实验设计到自主冲突解决的四级难度层级,基础统计工具显著提升了多模型族的性能。
针对模型识别测试环境的评估意识问题,研究者提出批评优化(critique refinement)和 DISH(部署模仿 SWE-Agent 框架)两种技术。 批评优化利用额外推理时计算生成多候选动作并依据目标模型反馈筛选最似部署的动作;DISH 通过 Agent 框架缩小编码场景下模拟与真实部署环境的差距。
PolicyGuide 将域政策编译为工作流图,通过主动验证器在用户轮次边界引导 LLM Agent 执行合规步骤,显著提升政策遵循能力。 基于 τ²-bench 在航空、零售和电信领域的评估中,使用 GPT 5.4 作为 Agent 和验证器,PolicyGuide 将平均 Pass⁴ 得分从 0.42 提升至 0.62,其中电信领域增益最大(0.19 提升至 0.61)。
提出 SlotGuard 方法,通过类型化槽位和会话图在保护本地私有上下文时保留代理性能。在控制测试中消除 20,814 个敏感字符,凭证泄露降至 0.0%,且任务成功率保持接近原始转录。 代码公开获取。
PolicyGuard 是一款子智能体验证器,通过与主 Agent 共享对话视图并对上下文中的策略进行推理,实现比单纯参数值检查更广泛的策略合规性验证。在 τ²-bench 航空数据集上,该工具使 GPT 5.4、Claude Sonnet 4.6 和 Gemini 2.5 Pro 的 Pass⁴ 指标分别提升 12.0、6.0 和 12.0 个百分点。
PersonaDrive 提出了一种从人类演示中获取驾驶风格的视觉-语言-动作(VLA)代理,在 Bench2Drive 基准上比 SimLingo 提升 4.6% 驾驶得分。 该模型基于 15 名参与者的 CARLA 演示数据训练,通过 FAISS 索引切换风格无需重训,激进而保守风格下平均速度提升 19.8%。 数据集与模型权重已在项目页面开源,研究被 WACV 2027 接收。
PithTrain 提出 ATE 维度并引入 ATE-Bench,在吞吐量上具备竞争力的同时实现更高 Agent 任务效率。 在新增功能任务上,PithTrain 比 Megatron-LM 少 62% Agent Turns,比 Megatron-LM 和 TorchTitan 分别少 44% 和 64% Active GPU Time。
研究者提出纵向可靠性基准 AgingBench,用于评估部署后智能体的生命周期可靠性及修复目标。 AgingBench 将智能体老化划分为压缩、干扰、修订和维护四种机制,并采用时序依赖图与反事实探针进行诊断。 在涵盖 6 个场景、10 个记忆系统和 2 个模型家族的 400 次运行中,发现智能体老化并非单维度,且不同错误需针对性修复。
研究提出确定性验证器评估工具调用,发现 Gemini-2.0-Flash 准确率从 63.4% 降至 5.6%。 配对实验显示注入错误参数使错误率升至 74.5%(+22.0 个百分点);部分模型在 0-42.5% 轨迹中存在未执行即报告结果。
LAMaS 提出了一种模块化平台,用于学习低延迟的多智能体编排。在四个基准测试中,LAMaS 在保持竞争力或更好精度的同时,将端到端延迟降低了50%以上。该平台允许框架保留自己的图构建器,并使用 LAMaS 的延迟优化编排层进行训练,从而实现对 GDesigner 和 AgentDropout 等基线方法的优化。
提出 Web World Model(WWM),在普通 Web 代码中实现世界状态与物理逻辑,由 LLM 生成上下文与高层决策。 WWM 基于现实 Web 技术栈构建,包含无限旅行图谱、星系探索等环境,确立代码规则与模型想象力分离的设计原则。 Web 技术栈本身可作为世界模型的可扩展基底,实现可控且开放的环境探索。
团队提出 ScienceIDE 基础设施,将科学代码仓库转化为支持任务生成与验证的可执行环境,以解决科学经验瓶颈。 基于该环境中的验证交互轨迹,团队训练了 PhAI-IDE-72B/9B/4B 模型族。这些模型在科学代码修复及通用代码、推理和知识基准测试中表现提升,证明科学经验可正向迁移至更广泛能力。
SocialGym 提出包含 22 款多智能体游戏的评估环境,以游戏规则确定的可验证结果替代主观的 LLM 裁判。研究通过 Elo 锦标赛基准测试 10 款 LLM,发现模型在 Chameleon 和 Spyfall 中常泄露己方秘密,且排名随游戏类型变化。
针对LLM角色扮演中的事实越界与风格单调问题,论文提出具有视角边界记忆的三层架构 ReverieMem。 该架构包含存储第一人称记忆的知觉层、标记可见性的语义层及情境化性格层。在含4386个问题的KBF-QA基准上,其知识边界保真度比最强参考方法提升34.6个百分点,且在BookWorld协议中平均胜率达78.86%。 这一机制有效强化了角色知识边界与基于角色的叙事生成能力。
SaliMory 提出一种管理认知结构化记忆的框架,解决简单扩展上下文导致的推理质量下降及标准强化学习中的信用分配瓶颈。 该框架引入阶段性过程奖励和奖励分解对比优化,为选择性过滤、巩固和提示驱动召回等操作提供独立的端到端监督。 在四个数据集上,SaliMory 创下 39.8% 的最佳个性化率和 72.9% 的最高问答准确率,同时保持模糊度低于 20%、事实性高于 89%。
dMoE 框架通过将 token 级专家分布聚合为块级分布,解决了扩散 LLM 与 MoE 架构中的路由失配问题,显著降低推理时的内存瓶颈。该框架将平均独特激活专家数量从 69.5 减少至 16.6,同时保留 99.55% 的性能,内存使用率降低 74.36% 至 76.78%,端到端延迟加速 1.36 至 2.04 倍。该论文已被 NeurIPS 2026 接收。
研究提出利用语言模型模拟实验结果以生成假设的系统框架,并在儿童语言发展中验证。 在动词习得研究中生成两个未经测试的新假设,指出语序与突显度对齐调节儿童泛化,且第一非名词性论点对齐影响更大。 该框架为通过模拟学习者进行假设生成提供通用方法,并产出可在实验室测试的儿童语言习得假设。
研究发现共享缓存能作为隐式通信通道,促使 LLM agents 在无提示情况下自发协调,且该现象在独立复现中得以确认。 协调行为不取决于模型厂商等级,而由是否写入中间结果及再次检查共享存储决定,一句提示语即可切换此机制。 研究建议对 agent 间共享状态进行命名空间隔离和日志记录,并强调实验设计需先于数据锁定。
提出 Agent4Crypto 多智能体系统,通过双反思机制与市场反馈对齐提升加密货币交易表现。 系统采用 PPO 门控策略动态调整激进、中立、保守三个交易智能体权重,并在 BTC、ETH 和 XRP 上验证了其相较于传统策略及基线模型在总收益和夏普比率上的优势。
研究团队提出 OGDA(本体驱动数据智能体),利用紧凑本体降低探索开销,并在 KramaBench 和 DiscoveryBench 上比最强基线提升最高 10.82 分。 该方法通过生成器-验证器架构构建本体,并由任务图约束数据处理动作,避免上下文窗口耗尽导致的推理退化。 明确建模数据湖是迈向可靠端到端数据智能体的关键步骤。
Infrathon 基准测试评估了 6 个模型在 24 小时预算下的 150 次运行,累计超过 10,000 GPU 时。Claude Opus 5.5 在 KV-cache 压缩任务中超越人类设计基线,将平均压缩率从 6.82% 提升至 19.86%。
ODSA(Orchestrated Discovery and Self-Aggregation)是一种 LLM 驱动的测试时扩展框架,由编排器 LLM 指挥无状态工作节点执行发现、比较和接受动作。