arXiv · AI· Rafid Ahmed, Joseph Fioresi, Mubarak Shah, Yuzhang Shang·· 2026-10-08AI 评分48
CredLeak-Bench:评估LLM智能体在钓鱼场景中的凭证泄露与恢复
CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents
AI 导读
研究团队提出CredLeak-Bench基准,用于评估LLM智能体在面对钓鱼和身份验证时的信息泄露与任务效用。该基准涵盖用户主导认证和自主收件箱监控,在沙箱环境中通过实际提交信息来衡量泄露程度,而非依赖智能体自我报告。 评测显示所有受测模型均易受泄露影响,且多数现有缓解措施在降低泄露的同时损害正常任务性能,揭示了安全与效用之间的权衡。
来源:arXiv · AI · arxiv.org