Leanstral 1.5 發布:前沿的正式驗證模型

簡要重點

Leanstral 1.5 是一款免費、採用 Apache‑2.0 許可證的正式推理模型(總參數 119 B,活躍參數 6 B),在 miniF2F 上達到 100 % 的成績,解決 587/672 題 PutnamBench 問題,於 FATE‑H 和 FATE‑X 分別創下 87 % 和 34 % 的新最佳紀錄,並成功發現開源程式庫中的真實錯誤。


模型概覽

Leanstral 1.5 建立在原始 Leanstral 架構之上,採用三階段訓練流程:中期訓練、監督微調,以及使用 CISPO 算法的強化學習。該模型專為 Lean 4 中的證明工程優化,儘管總參數達 119 B,但僅使用 6 B 活躍參數運作。

訓練環境

  • 多輪環境 – 模型接收定理陳述,嘗試證明,接收 Lean 編譯器回饋,並迭代修正證明,直到成功編譯或耗盡 token 預算。
  • 程式碼代理環境 – Leanstral 像開發者一樣在原始檔案系統中操作:編輯檔案、執行 bash 命令,並向 Lean 語言伺服器查詢目標、錯誤與類型資訊。此機制支援長程任務,例如完成部分證明、生成輔助引理,並跨多輪上下文壓縮持續運作。最終證明由 Mistral 對 SafeVerify 的分支進行驗證。

基準測試表現

Leanstral 1.5 在四個主要的正式推理基準上進行評估。

miniF2F

  • 結果: 在驗證集與測試集上均達成 100 % 的覆蓋率。
  • 意義: 展現了對代數、組合數學與數論中從基礎到國際數學奧林匹克(IMO)級別問題的完整涵蓋。

PutnamBench

  • 結果: 解決 587 題中的 672 題(約 87 %)。
  • 對比: 比 Seed‑Prover 1.5(高設定)多解決 7 題,且每題成本約為 4 美元,遠低於 Seed‑Prover 高預算設定的 300 美元以上。
  • 擴展性: Pass@8 隨 token 預算增加而持續上升:50 k tokens 時為 44 題,200 k 時為 244 題,1 M 時為 493 題,4 M 時為 587 題。

FATE‑H 和 FATE‑X

  • 結果: 在 FATE‑H(研究所級抽象代數)上創下 87 % 的新最佳紀錄,在 FATE‑X(博士級)上達成 34 %。
  • 基線: 在相同條件下(無自然語言引導)超越 Goedel‑Architect、Seed‑Prover 1.5 與 AxProverBase。

FLTEval

  • 結果: Pass@1 從 21.9 % 提升至 28.9 %;Pass@8 從 31.9 % 提升至 43.2 %。
  • 成本效益: 在 Pass@8 達 43.2 % 的表現下,僅需 Opus 4.6 的約七分之一計算成本,便超越其 39.6 % 的成績。

測試時擴展行為

Leanstral 展現了目前正式推理模型中最具強度的測試時擴展行為。增加每次嘗試的 token 預算,直接轉化為更多解決的問題,如 PutnamBench 的擴展曲線所示。模型能持續處理數百萬 token 的推理,例如 AVL 樹證明需 2.7 M token 與 22 次上下文壓縮。


程式碼驗證案例研究

儘管主要訓練於數學領域,Leanstral 1.5 在軟體驗證方面亦展現出強健能力。

AVL 樹時間複雜度證明

  • Leanstral 成功證明了真實 AVL 樹實作中插入與刪除操作的 O(log n) 上界。
  • 證明過程需結構化歸納、單子式時間追蹤與 exhaustive 情境分析。
  • 經過超過 2.7 M token 與 22 次壓縮,模型推導出每單位樹高最多 48 步加上常數的界,並透過對數關係連結樹高與大小。

自動化錯誤發現

  • 一個流程將 Rust 程式碼轉譯為 Lean,產生正確性性質,並對每項性質最多嘗試四次證明。
  • 若無法證明性質,則嘗試四次證明其反面。
  • 在 57 個程式庫中,共發現 47 項性質被違反;其中 11 項為真實錯誤,5 項為先前未報告的。
  • 範例:在 datrs/varinteger 中,sign 函數在 Std.U64.MAX 上溢位,導致除錯模式下當機,釋出模式下則造成隱蔽資料損毀——此邊界情況被傳統測試忽略。

開始使用

Leanstral 1.5 以 Apache‑2.0 許可證釋出。

  • 權重: 可於 HuggingFace 取得,路徑為 mistralai/Leanstral-1.5-119B-A6B
  • API: 提供免費端點 leanstral-1-5,文件詳見 Mistral AI 的模型卡片。
  • 推薦客戶端: Mistral Vibe。

快速安裝步驟

# 安裝 Mistral Vibe
uv tool install mistral-vibe
uv tool update mistral-vibe vibe --setup

# 安裝 Leanstral 1.5(占位指令)
/leanstallexit

# 啟動代理
vibe --agent lean

可選: 安裝 Lean LSP MCP 伺服器以獲得更豐富的語言伺服器互動。

[[mcp_servers]]
name = "lean-lsp"
transport = "stdio"
command = "uvx"
args = ["lean-lsp-mcp"]
tool_timeout_sec = 600

設定完成後,使用者可要求 Leanstral 證明定理、除錯現有證明,或貢獻已驗證的程式碼至程式庫。


意義

Leanstral 1.5 表明,即使僅使用相對少量的活躍參數與開源級成本,也能實現高效率的正式驗證。其能隨 token 預算擴展、解決大型數學基準,並發現真實軟體錯誤的能力,顯示出正式證明工程工具正朝向實用化、廣泛可及的方向發展,適用於學術與產業界。

Sources

相關

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch