Anthropic开源FlashProve：密码学证明模型身份
Anthropic 公布开源系统 FlashProve，通过模型指纹与密码学证明验证某段输出确实出自特定模型，已发布技术规范与部分开源代码，研究仍在进行，暂无部署计划。
要点
- FlashProve 提供“可证明推理”，用密码学证明某输出由特定模型生成
- 实验室需为每个模型发布“指纹”，指纹不泄露模型权重，可用于闭源商业模型
- 可防止厂商暗中换成更便宜或更贵的模型，也能核验第三方对模型能力的宣称
- 系统设计轻量，可在本地设备完成验证；已发布技术规范与部分开源代码
- 研究仍在进行，Anthropic 及其他实验室均无部署计划
阅读原文这里是中文要点整理，数字与细节以原文为准。
评论
还没有评论，来写第一条。