跳到正文
arXiv · ML· Yibo Miao, Yichuan Cao, Xiao-Shan Gao, Yinpeng Dong·· 10 天前AI 评分42

Chatter Attack:针对大语言模型的资源消耗攻击

Chatter Attack: Resource Consumption Attack for Large Language Models

AI 导读

研究提出名为 Chatter Attack 的新型资源消耗攻击,通过优化对抗性提示词诱导 LLM 生成过长输出,最大响应长度增加达 31.5 倍。 该方法利用推理注意力损失和全局熵损失维持自我怀疑状态,并提出贝叶斯提示优化(BPO)以扩展至黑盒设置。 实验表明其在多个模型和基准上优于基线方法,揭示了真实世界 LLM 推理服务面临的实际资源耗尽风险。

来源:arXiv · ML · arxiv.org