Anthropic 正在研发验证 AI 模型身份的系统

Anthropic 正在开发一个名为 FlashProve 的开源系统，用于验证特定输出是由哪个 AI 模型生成的。该系统通过“可证明推理”提供数学保证，类似于加密邮件签名，可确保用户收到的答案确实来自其所认为的模型，并防止实验室秘密替换更便宜或更昂贵的模型以降低成本或夸大性能。