Tejas-TA/predikit

The missing bridge between your ML models and your AI agents.

What it solves

predikit 消除將傳統機器學習模型（如 scikit-learn 或 XGBoost）變成 LLM 代理可呼叫所需的繁瑣黏合程式碼。它自動產生 JSON Schema、確保輸入的型別安全，並提供一套標準化方式，將這些模型作為工具整合到代理工作流程中。

How it works

此函式庫將已訓練的機器學習模型包裝在 ModelTool 物件中。透過為輸入 Schema 定義 Pydantic BaseModel，predikit 會自動產生 LLM API（例如 OpenAI 函式呼叫）所需的 JSON Schema，並驗證從 LLM 傳入模型的資料。它同時提供 ToolRegistry 以管理多個工具，並有 ModelEnsemble 類別可使用投票或平均等策略結合多個模型的預測。

Who it’s for

開發者與機器學習工程師，想在 LLM 驅動的代理或應用程式中整合預測模型，卻不想手寫驗證與 Schema 的樣板程式碼。

Highlights

  • Auto-generated Schemas：一行程式碼即可匯出為 OpenAI function‑calling 或 LangChain StructuredTool 格式。
  • Type-Safe I/O：使用 Pydantic v2 進行嚴格的輸入驗證，並自動將 LLM 產生的字串（例如 "yes"）轉換為 True。
  • Model Ensembling：內建多模型輸出聚合策略，支援平均、投票或加權等變體。
  • Confidence Routing：當分類器的預測信心低於指定門檻時，可發出警告、拋出錯誤或觸發備援工具。
  • Registry Loaders：直接整合 MLflow 與 Snowflake Model Registry，無需手寫載入樣板。
  • Async Support：提供 ainvoke() 以支援非阻塞推論。