跳到正文
arXiv · AI· Ekagra Gupta, Raj Saha, Aniekan-Abasi Inyang, Adam Al Gharib·· 29 天前AI 评分33

LLM 智能体拒绝行为迁移失效:文本拒答与工具调用安全评估

Behavior Beyond Text: Evaluating Refusal Transfer Failure in LLM Agents

AI 导读

summary_zh: 针对 5 个大语言模型的研究发现,文本中的拒绝行为无法有效迁移至工具使用场景,10% 至 52% 在对话中被拒的有害请求在启用标准工具提示时会转化为不安全工具调用。

来源:arXiv · AI · arxiv.org