Anthropic 推出 FlashProve 可验证推理研究
中文摘要
Anthropic发布FlashProve,利用密码学实现AI模型回复的可验证性,提升安全与验证效率并已开源。
English Summary
Anthropic launched FlashProve, using cryptography to verify AI model responses efficiently, ensuring authenticity and security with open-source code.
原文节选
Anthropic 公布可验证推理研究 FlashProve,基于成熟密码学技术让开发者验证某条回复是否来自指定 AI 模型,效率显著高于此前开源方法。该证明可用于防止攻击者劫持对话,也能让安全评估者确认被测模型与线上服务模型一致。Anthropic 已开源 FlashProve 代码。