Arize-ai/openinference

何を解決するか

OpenInferenceは、AIアプリケーションのトレースと監視を標準化する方法を提供します。LLMベースのアプリケーションにおける観測性の断片化という問題を解決し、複雑なアプリケーションワークフロー内でLLM、ベクトルストア、外部ツールがどのように呼び出されたかを記録するための共通の規則セットを構築します。

仕組み

OpenTelemetry用の補完的な規則とプラグインのセットとして機能します。AI固有のメタデータ（意味的規則）を記録する仕様を定義し、OpenAI、LangChain、LlamaIndex、Anthropicなど、人気のあるML SDKおよびフレームワーク用の広範なインストルメンテーションライブラリを提供します。これらのインストルメンテーションにより、開発者は詳細な実行トレースを取得でき、Arize PhoenixやArize AXを含む任意のOpenTelemetry互換バックエンドに送信できます。

対象ユーザー

複雑なLLMアプリケーション、エージェント、RAGシステムを開発し、アプリケーションの内部ロジック、ツール使用状況、モデル呼び出しに深い可視性が必要なAIエンジニアおよび開発者。

主な特徴

• OpenTelemetry統合: OpenTelemetryエコシステムとシームレスに連携するように設計されています。
• 広範なフレームワーク対応: DSPy、CrewAI、PydanticAIを含む数十の人気AIライブラリ用の専用インストルメンテーションを提供します。
• トランスポート非依存: 特定のファイル形式や送信方法に依存しないように仕様が設計されています。
• 統一されたデータ: OpenLITやOpenLLMetryなどの他のインストルメンテーションライブラリからのデータを正規化するスパンプロセッサを含みます。