语言模型中的意外上下文泄露

研究发现，AI 智能体上下文窗口中敏感数据会在模型良性输出中产生隐藏相关性，即使模型拒绝直接提取也可被重建。 实验基于8个专有模型，2位数字机密重构准确率近乎100%，4位数字准确率为82%，且能力越强模型泄露越多。 该泄露支持语义谓词推断和完整社会保障号提取等攻击，已发表于NeurIPS 2026。