Oodle AI エージェント可観測性ローンチ – 100 万トレースあたり $10
Oodle AI エージェント可観測性ローンチ – 100 万スパンあたり $10
Oodle AI がエージェント可観測性を $10 / M スパン価格で提供開始
要点: Oodle AI は、LLM エージェントのトレースを 100 % S3 バックエンドのカラム指向ストレージに保存し、サブ秒レベルのクエリ遅延を実現、さらにスパンあたり $10 の定額料金で提供する専用エージェント可観測性サービスを開始しました。このコストモデルはクエリごとの料金を排除し、大規模デバッグを手頃な価格で実現します。
なぜ LLM エージェントに高速・低コストなトレース保存が重要なのか
エージェントのトレースは大きい。 各トレースにはプロンプト、ツール呼び出しメタデータ、モデルの応答が含まれ、会話あたり数メガバイトになることもあります。従来の APM ツールはこのボリュームに苦戦し、検索が遅く(数分)ストレージコストが高いという問題が生じます。
エージェントは非決定的に失敗する。 静かなツールエラーや不完全なツール呼び出しチェーン、"やったよ" といったメッセージは、トレース全体を保持しなければ見逃されがちです。サンプリングだけでは、まさに検出すべき稀な失敗を捕らえることはできません。
Oodle のソリューションはこの二つの課題に次のように対処します。
- すべてのスパンを S3 互換オブジェクトストアに保存し、数か月から数年単位で予測可能なコストで保持可能にします。
- カラム指向のサーバーレスコンピュートを使用し、P99 クエリ遅延 <1 秒 を実現。数分かかっていた調査を瞬時の検索に変えます。
コア技術機能
1. カラム指向ストレージ & サーバーレスクエリエンジン
"トレースの高速検索 – カラム指向ストレージ、サーバーレスコンピュート – 分ではなく秒でトレースを見つける。"
Oodle はストレージエンジンの一部を(下記エンジニアリングブログ参照)書き直し、読み取り中心のワークロードに最適化された parquet ライク形式でスパンを保存します。この設計により:
- ベクトル化スキャンで不要なカラムをスキップし、I/O を削減。
- 専用クエリノードをプロビジョニングする必要のない弾力的スケーリングが可能。
2. S3 ベースの定額料金
"$10 / million スパン – トレースを 100 % 保存し、予算も抑えられる。"
料金は 取り込みバイト数 と 保持日数 に基づきます。典型的な 1.2 TB/月 のワークロードは取り込みで $360、90 日保持で $2、合計 $362/月(クエリは無制限)となります。
3. 即利用可能な AI インサイト
"ユーザーのフラストレーション、ツール呼び出しの最適化、異常を評価コードを書く前に検出。"
組み込みの分析機能は自動で以下を抽出します:
- エラーリカバリ失敗(未処理例外、未完了ツール呼び出し)
- 長時間トレース(ループスタック、リトライ嵐)
- 低ユーザー満足度(ネガティブ感情スコア)
- モデルコスト非効率(より安価なモデル代替案)
- キャッシュ非効率 と 過剰な LLM ターン数
これらのインサイトはカスタムルールの設定不要で利用できます。
実際の導入事例
Oodle は 1 日あたり 300 万以上のエージェントトレース をサンプリングなしで処理している複数のプロダクション顧客を挙げています。主な事例は:
- Fello – 音声 AI プラットフォームで、日々数百万件のインタラクションにおける静かな失敗を検出。
- Cureskin, HappyPath, Wisdom AI, Fuel, Lookout, Zaggle, CureFit, Distacart, Workorb, Effective AI, different.ai, Labra, Bedrockdata – すべて製品ページに掲載されている Oodle の可観測性を利用するエンジニアリングチーム。
"3M+ エージェントトレース/日。サンプリングなし。音声 AI エージェントの静かな失敗を捕捉。" – Fello ケーススタディ
始め方
- OpenTelemetry で計測 – Oodle は標準 OTLP トレース(Generative AI セマンティックコンベンション)を受け取ります。カスタム SDK は不要です。
- スパンを Oodle に送信 – 既存のエクスポーターを提供エンドポイントに向けるだけです。
- UI で探索 – トレースを即座にクエリ、文字起こしの再生、評価パイプライン実行、AI パワードインサイト活用が可能です。
無料ティアはクレジットカード不要で利用でき、15 分のオンボーディング が約束されています。
Hacker News からのコミュニティフィードバック
- 価格への懸念: あるコメント者は現在のベンダーが $0.75 / M であるのに対し、Oodle の $10 / M を「高い」と指摘。
- 技術的好奇心: 別のコメントは、なぜ Oodle がネイティブ Parquet ではなく「parquet‑like」形式を採用したのか質問。
- 開発者の見解: Oodle エンジニアの Vijay Karthik は、エージェントトレース対応のためにストレージエンジンを再設計したと回答し、ブログ記事 How We Achieved $10/Million Agent Spans へのリンクを共有。
- 好意的な受け止め: ユーザーは Oodle の速度と「ベストインクラス MCP」を称賛し、失敗パターンの評価に期待感を示しています。
さらに読む
- エンジニアリングブログ: How We Achieved $10/Million Agent Spans – ストレージアーキテクチャとコスト最適化の詳細。
- 可観測性ブログ: You Can’t Sample Your Way to Reliable Agents – 完全トレース保持が不可欠な理由を解説。
- アーキテクチャブログ: How Oodle Keeps Observability Fast at Scale – サーバーレスクエリ設計を掘り下げます。
結論: Oodle AI のエージェント可観測性サービスは、LLM エージェントの膨大なトレースを低コストで保存・検索できる専用プラットフォームを提供し、サブ秒検索と自動失敗検出を実現します。別途 APM ツールを導入する複雑さは不要です。