arXiv · AI· Mark Heimann, Katherine Taylor, Bruno Jacob·· 11 天前AI 评分26
法律合同审查中针对提示词注入防护的评估研究
Notwithstanding Anything to the Contrary, Ignore All Instructions: Measuring Prompt Injection Guards on Legal Contract Review Attacks
AI 导读
针对 11 款开源权重防护系统的测试发现,现有模型在法律文书场景表现不佳,文档级误报率高达 92.39%,且 5 个正则表达式基线未被任何现有系统帕累托占优。 引入提示词 LLM 能解决包括“未授权范围声明”在内的测试失效,级联 LLM 方案在接近顶级模型性能的同时,成本仅为纯顶级模型的 1/6.5。
来源:arXiv · AI · arxiv.org