arXiv · NLP· Aditya Nawal, Manit Baser, Mohan Gurusamy·· 8 小时前AI 评分36
LLM 智能体检索前安全性与工具使用决策研究
Before Retrieval Begins: Safety and Tool-Use Decisions in LLM Agents
AI 导读
七款开源 LLM 平均 74.5% 接受有害工具调用,中性化操作请求产生最大 19 个百分点准入差异。 线性方向在 7 款模型中 4 款影响留出集决策;文本拒绝伴随 33.6% 有害调用,拒绝微调可降低不安全准入。 研究指出文本拒绝非工具准入可靠代理,建议直接评估和监督工具准入决策。
来源:arXiv · NLP · arxiv.org