LLM API 被曝可通过 token 选择泄露模型权重

研究人员展示了一项针对 LLM API 的安全漏洞：在推理服务器与协作客户端同时被入侵的前提下，攻击者可利用 logprobs 信息解码隐藏的模型权重比特，实现权重窃取。该攻击并非普通用户可独立实施，而是依赖对推理侧的访问与控制。 为应对此类风险，文中提出基于 e-process 的聚合检测器，通过对推理过程进行重放验证，识别异常的 token 翻转行为，从而在权重泄露发生前发出预警。前沿模型厂商目前正在逐步关闭 logprobs 的默认返回，以缩小攻击面；但研究认为，推理验证本身仍可作为防御方的有效手段，不依赖 logprobs 是否公开。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。