AI Agent意外上下文泄露风险研究发布
热点事件持续更新
AI Agent意外上下文泄露风险研究发布
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Jaiden Fairoze等人在NeurIPS 2026发表研究，揭示AI Agent的上下文窗口中敏感数据（如密码、SSN）即使未被模型直接提取，也会通过良性输出产生隐藏相关性，从而被外部攻击者重建，支持语义谓词推断与完整SSN提取等攻击。 实验覆盖8个专有模型，结果显示2位数字机密的重构准确率近乎100%，4位数字准确率82%，且模型能力越强，泄露程度越严重。
AI 根据报道生成 · 52 分钟前更新
最新进展11月2日 13:00
语言模型中的意外上下文泄露报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · ML语言模型中的意外上下文泄露
研究发现，AI 智能体上下文窗口中敏感数据会在模型良性输出中产生隐藏相关性，即使模型拒绝直接提取也可被重建。 实验基于8个专有模型，2位数字机密重构准确率近乎100%，4位数字准确率为82%，且能力越强模型泄露越多。 该泄露支持语义谓词推断和完整社会保障号提取等攻击，已发表于NeurIPS 2026。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。