跳到正文
arXiv · NLP· Zhitao He, Chengru Han, Chi Him Zhang, Yi R Fung·· 10 天前AI 评分42

SEA 基准测试 11 款 AI 模型在社交工程攻击下的安全表现

Toward Safety-Aware AI Agents in Realistic Social Engineering Attack Scenarios

AI 导读

SEA 基准测试 11 款前沿大模型在社交工程攻击下的安全能力,结果显示所有模型均被攻破,中文场景攻击成功率达 16.9% 至 84.3%。 基准涵盖 8 个生活领域、30+ 模拟应用及 320 个评估任务,配合 META-SEA 框架可使 Qwen3-8B 防御性能比肩闭源模型。 该研究系统性评估了个人 AI 智能体在涉及真实资金与敏感数据场景下的固有风险。

来源:arXiv · NLP · arxiv.org