发布日期

DeepMind 发布 AlphaProof Code:AI 代理四周写出超 600 万行 Lean 证明,形式化验证了 Signal 协议的实际代码

Google DeepMind 于 11 月 10 日发布 AlphaProof Code,一个由多个模型协作的代理式形式化验证框架。研究人员用它证明了 Signal 协议实际运行代码的关键安全性质,Signal 协议也用于 Google Messages 等应用。DeepMind 称这是 AI 首次在这种深度上形式化验证广泛部署的密码协议,也是此类协议的实现首次被任何方法完整验证到这一层。

分工上,人类专家与多个模型一起把 Signal 的安全目标翻译成形式化数学规格,每一条都由专家审阅;随后由 Gemini Carbon 驱动的代理完成证明,生成超过 600 万行 Lean 代码(一种可由机器自动检查的证明语言)。代理还会自查证明,只把约 1% 的内容标出交给人工复看,其余由 Lean 自动检查。

DeepMind 说,多数协议验证只停留在设计层,这次一直证明到设备上实际运行的编译后代码,例如设备被临时攻破前后消息仍受保护。整个验证用了四周,而这类工作过去往往需要专家团队数年。为检验系统能否区分对错,研究人员把两个已修复的真实漏洞重新放回隔离版本的代码中,系统两次都给出了“该版本不安全”的机器可检查证明。

DeepMind 表示将开源这次形式化验证的成果供社区使用,并发布了技术论文;它认为这套方法今后可用于医疗设备固件、电网软件等关键系统,但规模化仍需更多研究。

来源

  1. Introducing AlphaProof Code: a breakthrough in verifying complex software at depth — Google DeepMind

专题:Google

相关报道

在 ? 中打开这篇 →