微调MoE模型存在结构性记忆漏洞
热点事件持续更新
微调MoE模型存在结构性记忆漏洞
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年11月，Fei Wang等研究者揭示微调混合专家（MoE）大模型存在“结构性记忆”漏洞。研究表明，即使使用少量样本微调，模型也会记忆数据处理路径并形成独特路由指纹。 攻击者无需获取微调数据或流程，仅通过观察路由信息及输出logits，即可从无条件生成中隐蔽恢复记忆路径。研究指出，传统成员推理指标在此场景下失效，无法识别对应结构路径的记忆数据。 针对分布式部署中路由信息在联邦聚合点等信任边界暴露的风险，研究者提出一种新复合指标。该指标结合参考模型尾部似然与复杂度感知归一化，可显著提升对关键专家被微调塑造情况的检测能力。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
微调混合专家（MoE）LLM 中可恢复的专家利用特征分析报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · AI微调混合专家（MoE）LLM 中可恢复的专家利用特征分析
研究揭示微调混合专家（MoE）模型存在“结构性记忆”漏洞，即使仅用少量样本，模型也会记忆处理数据的内部路径并形成独特的路由指纹。 攻击者无需微调数据或流程，仅通过路由和输出 logits 即可从无条件生成中隐蔽恢复记忆路径，传统成员推理指标在此场景下失效。 分布式部署中路由信息在联邦聚合点等多信任边界暴露，可结合参考模型尾部似然的新复合指标检测被微调塑造的关键专家。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。