Mistral AI Workflows 公開預覽

Mistral AI 已推出 Workflows 公開預覽版,這是一個旨在將 AI 驅動的業務流程從概念驗證轉向生產環境的編排層。Workflows 透過提供持久、可觀測且具備容錯能力的執行環境,解決了企業 AI 常見的失敗模式——例如生產環境中的靜默失敗、長時間運行流程中的網路逾時,以及缺乏人工審核機制。

Workflows 的核心能力

Workflows 提供了一系列企業級功能,讓開發者可以專注於業務邏輯,而非恢復與基礎設施邏輯:

  • 持久執行 (Durable Execution): 系統會在每一步追蹤狀態,允許失敗的流程從中斷點精確地恢復執行。
  • 可觀測性 (Observability): 每次狀態變更、重試和分支都會記錄在 Studio 中,提供完整的可審計時間軸,說明決策是如何達成的。
  • 人機協作 (Human-in-the-Loop): 開發者可以使用單行程式碼 (wait_for_input()) 暫停工作流以進行人工審核。工作流會在不消耗運算資源的情況下暫停,並在審核者透過 Le Chat、webhook 或其他連接介面回應後恢復執行。
  • 原生 Studio 集成: Workflows 使用與 Mistral Studio 生態系統其餘部分相同的代理 (agents) 和連接器 (connectors),消除了額外的集成工作。
  • 企業治理: Studio Workspaces 提供專案隔離,而基於角色的存取控制 (RBAC) 則確保存取規則的一致執行。
  • 部署靈活性: 控制平面 (control plane) 由 Mistral 託管,而工作節點 (workers) 和數據處理則在客戶自己的環境(雲端、地端或混合雲)中運行。

真實世界的企業應用

包括 ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale 和 Moeve 在內的多個組織正在利用 Workflows 自動化關鍵業務流程:

貨物放行自動化

在全球航運中,Workflows 被用於根據海關規則驗證貨運文件並檢查異常情況。系統會標記需要人工簽核的項目,並使用 wait_for_input() 函數來暫停執行,直到獲得批准,從而防止貨物延誤和合規性違規。

文件合規性檢查

對於 KYC (Know Your Customer) 審查,Workflows 會自動提取身分文件並針對制裁名單和 PEP 資料庫進行驗證。這將流程從數小時的人工分析師時間縮短至幾分鐘,同時提供結構化的推理時間軸,並具備原生的 OpenTelemetry 支援以滿足監管審計需求。

客戶支援分流

Workflows 會根據意圖和緊急程度,自動執行來電支援工單的分析、分類和路由。由於路由決策在 Studio 中是可見且可追溯的,團隊可以在工作流層級修正分類錯誤,而無需重新訓練底層模型。

技術架構與實作

Workflows 是建立在 Temporal 的持久執行引擎之上,該引擎已被 Netflix、Stripe 和 Salesforce 等公司使用。Mistral AI 擴展了此引擎以支援 AI 特有的需求,包括串流、負載處理、多租戶架構以及增強的可觀測性。

部署模型

架構將控制平面與數據平面分離:

  • 控制平面 (Control Plane): Mistral 託管 Temporal 集群、Workflows API 和 Studio。
  • 數據平面 (Data Plane): 使用者透過 Helm chart 在自己的 Kubernetes 環境中部署 workers。這些 workers 會使用安全憑證連接回中央集群,確保業務邏輯和數據保留在使用者的邊界內。

開發者體驗

開發者使用 Mistral SDK 在 Python 中編寫工作流。SDK 透過裝飾器 (decorators) 和單行配置來管理複雜的運作需求——包括重試策略、逾時、速率限制和追蹤。

Workflows 現在已透過 Python SDK v3.0 提供,可透過 uv add mistralai-workflows 安裝。

Sources

相關

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch