IT之家·· 2026-10-09AI 评分50
字节 Seed 团队发现 DeepSeek 长上下文性能漂移的相位敏感性原因
字节 Seed 团队发现 DeepSeek“抽风”原因,长上下文可能性能漂移
AI 导读
字节 Seed 团队在 arXiv 提交论文,指出分块 KV 缓存压缩引入的 Token 相位敏感性是 DeepSeek 模型长上下文性能漂移的原因。研究评估了 DeepSeek-V4-Flash、DeepSeek-V4-Pro 和 DeepSeek-V4.1-Flash,发现压缩虽能降低内存和注意力成本,但导致检索准确率在不同相位间相差高达 40 个百分点,揭示了平均基准分数掩盖的周期性弱点。
来源:IT之家 · ithome.com