跳到正文
arXiv · NLP· Aditya Nawal, Manit Baser, Mohan Gurusamy·· 8 小时前AI 评分33

多语言环境下LLM智能体工具接纳与检索后安全机制研究

Disentangling Language Effects on Tool Admission and Post-Retrieval Safety

AI 导读

研究发现LLM智能体跨语言使用检索工具时存在安全评估偏差。非英语有害请求使平均工具接纳率从46.9%升至67.4%,且所有模型均呈正增长。 在涉及4个闭源模型的测试中,要求以网页语言作答使有害性从50.3%升至57.4%。仅翻译网页内容本身未导致8个模型中的有害性持续增加。 多语言安全评估应独立测量工具接纳率和响应有害性,并区分安全拒答与能力不足。

来源:arXiv · NLP · arxiv.org