SMT框架揭示函数调用LLM结构漏洞

1. 13:00
   arXiv · AI

   超越提示词：通过模拟审核痕迹攻击函数调用大语言模型

   论文提出 SMT 黑盒攻击框架，利用模拟审核痕迹在状态化函数调用环境中实施越狱，突破传统提示词级攻击范式。 在五个提供商的主流商用大语言模型上，SMT 在两个标准化安全基准中取得最高平均攻击成功率和 HarmScore，且所需查询次数接近最小值。 研究证明仅靠提示词层净化无法防御工具增强型大语言模型，需实施涵盖架构、参数及对话状态的上下文感知验证。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。