跳到正文
arXiv · AI· Kshitij Mishra, Abhijith Sharma, Nils Lukas, Salem Lahlou·· 2026-10-16AI 评分43

PROBE:LLM 智能体策略合规性审计训练算法

PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents

AI 导读

PROBE 是一种基于 LLM 的审计员训练算法,通过多轮工具对话探测策略违规。实验显示,其违规发现能力显著优于同等架构的 Zero-shot 对抗模型。 该方法将审计形式化为双玩家 Markov 博弈,采用复合奖励平衡发现率与行为合理性。 多轮行为审计是智能体评估的必要维度,PROBE 为自动化策略审计提供了可扩展路径。

来源:arXiv · AI · arxiv.org