arXiv · AI· Brijesh Dongol·· 10 天前AI 评分28
PlanTERS 框架:LLM 智能体提示注入的相对安全性形式化定义与验证
On the Relative Security of Prompt Injection: Mechanised Definitions, Defences and Verdicts for LLM Agents
AI 导读
PlanTERS 框架将 LLM 智能体安全定义为一个参考智能体(该参考智能体模型从不遵循不可信内容)的相对安全,以此取代不适用的非干扰原则。 该框架在 Isabelle/HOL 中证明,撤销注入式工具且不再授予的围栏定理可使每个计划在事件级别上相对安全,并验证了含围栏、预算和审批机制的智能体安全性质。
来源:arXiv · AI · arxiv.org