跳到正文
IT之家·· 15 天前AI 评分37

Anthropic 开发 FlashProve 系统:用密码学证明 AI 输出来自特定模型

Anthropic 正开发 FlashProve 开源系统:用密码学证明 AI 输出来自哪个模型

AI 导读

Anthropic 正在开发开源系统 FlashProve,通过密码学证明验证 AI 输出源自特定模型,实现“可证明推理”。 该系统类似加密邮件签名,能防止 AI 公司暗中更换更便宜或更昂贵的模型,且模型指纹不会泄露权重,支持本地轻量化验证。 研究人员已公开技术规范和 GitHub 代码,但 Anthropic 暂无计划在自家或其他实验室部署该系统。

来源:IT之家 · ithome.com