跳到正文
Hugging Face Blog·· 2023-02-24AI 评分32

Red-Teaming Large Language Models

Red-Teaming Large Language Models

AI 导读

红队测试是评估大型语言模型(LLM)漏洞的关键方法,旨在通过构造自然语言提示词诱导模型生成有害内容,区别于针对分类任务的对抗性攻击。该过程依赖人工或自动化LM进行创意性攻击,以解决模型在安全性对齐后仍可能产生的偏见或恶意输出问题,是保障LLM部署安全性的基础。

来源:Hugging Face Blog · huggingface.co