Leanstral 1.5 发布:最先进的形式化验证模型

概要

Leanstral 1.5 是一个免费的、采用 Apache‑2.0 许可证的形式化推理模型(总参数量 119 B,活跃参数 6 B),在 miniF2F 上达到 100 % 的成绩,解决了 587/672 个 PutnamBench 问题,在 FATE‑H 上创下 87 % 的新纪录,在 FATE‑X 上达到 34 %,并发现了开源仓库中的真实漏洞。


模型概览

Leanstral 1.5 基于原始 Leanstral 架构,采用三阶段训练流程:中期训练、监督微调和使用 CISPO 算法的强化学习。该模型专为 Lean 4 中的证明工程优化,尽管总参数量高达 119 B,但仅使用 6 B 活跃参数即可运行。

训练环境

  • 多轮环境 – 模型接收一个定理陈述,尝试构造证明,获取 Lean 编译器反馈,并迭代优化证明,直到编译通过或耗尽 token 预算。
  • 代码代理环境 – Leanstral 表现得如同在原始文件系统中的开发者:它可编辑文件、运行 bash 命令,并向 Lean 语言服务器查询目标、错误和类型信息。这使得模型能够完成长周期任务,如补全部分证明、生成辅助引理,并在多次上下文压缩轮次中保持状态。最终的证明由 Mistral 对 SafeVerify 的分支进行验证。

基准测试表现

Leanstral 1.5 在四个主要的形式化推理基准上进行了评估。

miniF2F

  • 结果: 在验证集和测试集上均达到 100 % 的饱和度。
  • 意义: 展示了对代数、组合数学和数论中从基础到 IMO 水平问题的全面覆盖。

PutnamBench

  • 结果: 成功解决 587/672 个问题(约 87 %)。
  • 对比: 比 Seed‑Prover 1.5(高设置)多解决 7 个问题,且每题成本约为 4 美元,而 Seed‑Prover 的高预算配置成本超过 300 美元。
  • 可扩展性: Pass@8 随 token 预算单调上升:50 k tokens 时为 44 题,200 k 时为 244 题,1 M 时为 493 题,4 M 时为 587 题。

FATE‑H 和 FATE‑X

  • 结果: 在 FATE‑H(研究生级抽象代数)上创下 87 % 的新纪录,在 FATE‑X(博士级)上达到 34 %。
  • 基线: 在无自然语言引导的相同条件下,优于 Goedel‑Architect、Seed‑Prover 1.5 和 AxProverBase。

FLTEval

  • 结果: Pass@1 从 21.9 % 提升至 28.9 %;Pass@8 从 31.9 % 提升至 43.2 %。
  • 成本效率: 在仅需约七分之一计算成本的情况下,超越了 Opus 4.6 的 39.6 % Pass@8 成绩。

测试时扩展行为

Leanstral 展现出形式化推理模型中最强的测试时扩展能力。增加每次尝试的 token 预算可直接转化为更多解决的问题,如 PutnamBench 的扩展曲线所示。该模型能够持续处理数百万 token 的推理,例如 AVL 树证明耗时 2.7 M token 并进行了 22 次上下文压缩。


代码验证案例研究

尽管主要在数学领域训练,Leanstral 1.5 在软件验证方面也展现出稳健能力。

AVL 树时间复杂度证明

  • Leanstral 证明了一个真实 AVL 树实现的插入和删除操作的时间复杂度为 O(log n)。
  • 该证明需要结构归纳、单子式时间追踪和详尽的案例分析。
  • 在超过 2.7 M token 和 22 次压缩后,模型推导出每树高单位最多 48 步加上一个常数,随后通过对数关系将树高与大小关联起来。

自动化漏洞发现

  • 一个流水线将 Rust 代码转换为 Lean,生成正确性属性,并对每个属性最多尝试四次证明。
  • 若无法证明属性,则尝试四次证明其否定。
  • 在 57 个仓库中,47 个属性被违反;其中 11 个对应真实漏洞,5 个此前未被报告。
  • 示例:在 datrs/varinteger 中,符号函数在 Std.U64.MAX 上溢出,导致调试模式下崩溃,发布模式下无声数据损坏——这是一个传统测试难以捕捉的边缘情况。

快速上手

Leanstral 1.5 采用 Apache‑2.0 许可证发布。

  • 权重: 可在 HuggingFace 获取,地址为 mistralai/Leanstral-1.5-119B-A6B
  • API: 免费端点 leanstral-1-5,文档见 Mistral AI 的模型卡片。
  • 推荐客户端: Mistral Vibe。

快速安装步骤

# 安装 Mistral Vibe
uv tool install mistral-vibe
uv tool update mistral-vibe vibe --setup

# 安装 Leanstral 1.5(占位命令)
/leanstallexit

# 启动代理
vibe --agent lean

可选: 安装 Lean LSP MCP 服务器以获得更丰富的语言服务器交互。

[[mcp_servers]]
name = "lean-lsp"
transport = "stdio"
command = "uvx"
args = ["lean-lsp-mcp"]
tool_timeout_sec = 600

设置完成后,用户可让 Leanstral 证明定理、调试现有证明,或向仓库贡献已验证代码。


意义

Leanstral 1.5 表明,高性能的形式化验证可在相对较小的活跃参数规模下实现,并达到开源级别的成本水平。其能够随 token 预算扩展、解决大规模数学基准问题,并发现真实软件漏洞,预示着形式化证明工程工具正向实用化、广泛可访问的方向发展,适用于学术界与工业界。

Sources

相关

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch