arXiv · NLP· Daniel Ruiz, Luca Luceri, Emilio Ferrara·· 4 小时前AI 评分28
Agent Mosaic：智能体 LLM 系统中机密泄露的识别
Agent Mosaic: Recognizing Confidentiality Leaks in Agentic LLM Systems
AI 导读
研究显示，LLM 智能体在查询单文档时仍会泄露跨文档聚合的机密结论，GPT-5.6-Sol 在模拟测试中的泄露率为 7.08%。 实验包含 30 个合成案例和 10,800 个最终答案，即便添加分类标题和聚合规则等防护措施，32.37% 的答案仍发生不安全泄露。 结果证实马赛克式事件是智能体环境中一种已被观测到的机密失效模式，需在混合密级用户环境下加强智能体推理与披露控制。
来源：arXiv · NLP · arxiv.org