Tejas-TA/predikit

The missing bridge between your ML models and your AI agents.

What it solves

predikit은 전통적인 머신러닝 모델(scikit-learn이나 XGBoost 등)을 LLM 에이전트가 호출할 수 있도록 하는 번거로운 glue code를 없애줍니다. JSON 스키마 자동 생성, 입력 타입 안전성 보장, 그리고 이러한 모델을 에이전트 워크플로우 내 도구로 표준화된 방식으로 통합하는 방법을 제공합니다.

How it works

이 라이브러리는 학습된 ML 모델을 ModelTool 객체로 감싸습니다. 입력 스키마를 정의하기 위해 Pydantic BaseModel을 선언하면 predikit은 LLM API(예: OpenAI 함수 호출)에 필요한 JSON 스키마를 자동으로 생성하고, LLM으로부터 모델에 전달되는 데이터를 검증합니다. 또한 여러 도구를 관리하는 ToolRegistry와 투표·평균 등 전략을 사용해 다수 모델의 예측을 결합하는 ModelEnsemble 클래스를 포함합니다.

Who it’s for

LLM 기반 에이전트나 애플리케이션에 예측 모델을 통합하고 싶지만, 수동으로 검증 및 스키마 보일러플레이트를 작성하고 싶지 않은 개발자 및 ML 엔지니어를 위한 도구입니다.

Highlights

  • Auto-generated Schemas：한 줄 코드로 OpenAI function‑calling 또는 LangChain StructuredTool 형식으로 내보낼 수 있습니다.
  • Type-Safe I/O：Pydantic v2를 사용해 엄격한 입력 검증을 수행하고, LLM이 생성한 문자열(예: "yes" → True)을 자동으로 변환합니다.
  • Model Ensembling：평균, 투표, 가중치 등 다양한 전략으로 다중 모델 출력 집계 기능을 내장하고 있습니다.
  • Confidence Routing：분류기의 예측 신뢰도가 지정된 임계값 이하일 경우 경고, 오류 발생 또는 폴백 도구를 트리거할 수 있습니다.
  • Registry Loaders：MLflow와 Snowflake Model Registry와 직접 연동되어 모델 로드 시 보일러플레이트 코드를 작성할 필요가 없습니다.
  • Async Support：ainvoke()를 제공해 논블로킹 추론을 지원합니다.