arXiv · AI· Ali Satvaty, Narjes Sharafi, Jirui Qi, Suzan Verberne, Fatih Turkmen·· 2026-10-09AI 评分27
基于前缀的提取是否受上下文影响:超越孤立前缀的研究
Is Memorization Context-Sensitive? Prefix-Based Extraction Beyond Isolated Prefixes
AI 导读
研究指出上下文并未消除大语言模型的记忆提取风险,而是改变了可提取样本集合。 实验在三个开源指令微调模型上配对测量了不同相关性检索上下文下的后缀概率,发现记忆提取包含对上下文鲁棒的核心和对边缘样本敏感的边界。 该发现表明RAG虽能抑制部分边界案例但无法消除鲁棒可提取样本,上下文启用的可提取性仍具安全意义。
来源:arXiv · AI · arxiv.org