Arize-ai/openinference

OpenTelemetry Instrumentation for AI Observability

What it solves

OpenInference は AI アプリケーションをトレースし観測するための標準化された方法を提供します。LLM ベースのアプリで観測が分散している問題を解決し、開発者は異なるフレームワーク間で LLM の呼び出し、ベクトルストアからの取得、外部ツール（検索エンジンや API など）の使用状況を把握できるようになります。

How it works

これは OpenTelemetry を補完する規約とプラグインのセットとして機能します。AI 関連データの記録方法を規定することで、OpenAI、LangChain、LlamaIndex などの一般的な ML SDK やフレームワーク向けの多様なインストゥルメンテーションを利用可能にします。これらのインストゥルメンテーションはアプリケーションコンテキストを取得し、Arize Phoenix や Arize AX を含む任意の OpenTelemetry 互換バックエンドと組み合わせて使用できます。

Who it’s for

AI エージェントや LLM アプリケーションを構築する開発者向けで、システムの実行フローを一貫した、トランスポート非依存の方法で監視・トレースしたい方に最適です。

Highlights

  • Standardized Specification: トランスポートおよびファイル形式に依存しない、LLM アプリのトレース用標準仕様。
  • Broad Framework Support: OpenAI、Anthropic、LangChain、LlamaIndex、CrewAI、DSPy など、幅広いツール向けのインストゥルメンテーションを含みます。
  • OpenTelemetry Integration: OpenTelemetry 標準を補完する形で構築されており、さまざまなバックエンドとの互換性を確保しています。
  • Span Processors: OpenLIT や OpenLLMetry など他のインストゥルメンテーションライブラリからのデータを正規化・変換するユーティリティを提供します。