arXiv · NLP· Hussein Jawad, Nicolas J-B Brunel·· 2 天前AI 评分33
PSM:通过LLM引导的黑盒优化最小化提示词敏感性
PSM: Prompt Sensitivity Minimization via LLM-Guided Black-Box Optimization
AI 导读
PSM框架通过添加保护性文本层(SHIELD)加固系统提示词,在保持任务效用阈值的同时显著降低提示词泄露率。 该方法利用LLM作为优化器,仅需目标模型和优化器模型的API访问权限即可搜索最优SHIELD空间。 实验证明优化后的SHIELD在全面提取攻击测试中优于现有基线防御,且不损害模型预期功能。
来源:arXiv · NLP · arxiv.org