arXiv · AI· Bo Yan, Qi Zhang, Ziwen Kan, Fnu Suya, Song Wang·· 4 小时前AI 评分35
PROVISO：基于来源信息的 LLM 智能体安全行动选择控制器
PROVISO: Provenance-Informed Action Selection for Secure LLM Agents
AI 导读
PROVISO 是一个在 LLM 智能体行动执行前进行选择的安全控制器，它通过编码带有来源类型的记忆（区分用户可信观察与外部来源），结合替代方案进行角色特定查询，并承诺具有最高校准价值的行动。
来源：arXiv · AI · arxiv.org