arXiv · AI· Abhishek Rai·· 4 小时前AI 评分29
nokast-secureRAG：基于小型语言模型的 RAG 管道上下文感知提示注入检测
Context-Aware Prompt Injection Detection via Small Language Models in RAG Pipelines: nokast-secureRAG
AI 导读
nokast-secureRAG 是一款约 0.5B 参数的小型语言模型，作为 RAG 检索与生成间的语义防火墙，将用户查询与检索上下文配对分类为安全、可疑或恶意。 模型经教师-裁判-学生流水线训练，在分布内测试集达 0.994 检测召回率、0.026 假阳性率，单请求延迟 293-404ms；已开源模型、数据管道及评测框架。
来源：arXiv · AI · arxiv.org