Back to Home
RadarAI··Papers & Tech

Anthropic 研究开源系统 FlashProve,用密码学证明 AI 模型输出身份

中文摘要

Anthropic发布开源系统FlashProve,利用密码学技术验证模型输出身份,防止模型被违规替换,代码已在GitHub公开。

English Summary

Anthropic released FlashProve, an open-source cryptographic system to verify model identity and prevent unauthorized model swapping. Technical specifications and code are available on GitHub.

Original Excerpt

Anthropic 发布研究博客,介绍开源系统 FlashProve,通过密码学证明验证某个输出确实来自特定模型,技术规范和代码已在 GitHub 公开。系统要求模型发布方公开不泄露权重的模型指纹,可在本地设备完成验证,可用于防止实验室偷偷换用更便宜或更贵的模型,但暂无在 Anthropic 或其他实验室部署的计划。