Anthropic开源FlashProve验证AI身份

FlashProve 让 AI 提供商能证明某条回复由特定模型生成，同时保持模型权重秘密。该协议在 Lean 4 中证明了安全性，并支持在单块 NVIDIA H100 上运行 Llama 4 Maverick 全尺寸模型，预填充速度达 110 tokens/秒，验证可在普通 CPU 上几秒内完成。

Anthropic 正在开发一个名为 FlashProve 的开源系统，用于验证特定输出是由哪个 AI 模型生成的。该系统通过“可证明推理”提供数学保证，类似于加密邮件签名，可确保用户收到的答案确实来自其所认为的模型，并防止实验室秘密替换更便宜或更昂贵的模型以降低成本或夸大性能。

Anthropic 发布 FlashProve，基于密码学技术验证 AI 模型响应真实性，效率优于现有开源方法。\n\n该工具可防止聊天劫持，协助安全评估者验证测试模型与线上服务一致。\n\n代码已在 GitHub 开源，相关研究论文详细记录了技术细节。