LegalOn Technologies AIコスト最適化事例

LegalOn Technologiesは、単一の高性能モデルからタスクの複雑さに基づく段階的なモデル選択戦略に移行することで、推定されるAIの日次コストを約65%削減しました。この最適化により、開発速度を維持しつつ、各ビジネスユニットの成長段階に応じたAI支出を実現しました。

段階的モデル選択戦略

LegalOn Technologiesは、すべてのタスクにGPT-5.5（Fastモード）を使用する方式から、AI駆動の開発センター・オブ・エクセレンス（AID CoE）によって管理される構造的な選択プロセスへと移行しました。現在、タスクの複雑さに応じて特定のモデルをマッチングさせ、コストとパフォーマンスを最適化しています。

  • GPT-6 Luna：日常的な実行、簡単なタスク、分析、コード実装（主にサブエージェントとして）
  • GPT-6.1 Sol：標準的なソフトウェア設計、ルーティンな数値分析、文書作成、Lunaよりも高速に完了が必要なタスク
  • GPT-6 Astra：最も能力が高いモデル。複雑な分析、アーキテクチャ設計、オーケストレーション、エージェントの調整に限定して使用

リソース配分とガバナンス

生産性を損なうことなく予算を管理するために、LegalOnはシステム制御と戦略的な予算上限の組み合わせを導入しました。

予算制御

  • 部門別制限：個人および部門ごとに月次使用制限を導入し、AID CoEが監視・調整
  • 差別化された予算配分：成熟したビジネスユニットはコスト効率を約20%向上させることが求められ、新規事業は立ち上げ段階のため、即時のコスト効率よりもスピードと出力の優先を考慮して大幅な予算が割り当てられた

パフォーマンス最適化

「Fastモード」をデフォルトで制限したことで、開発チームは並列タスク実行を採用し、モデルアクセスの変更にもかかわらず開発速度を維持しました。

AIのROIを機能リリースで測定する

LegalOnは、AIの成功を開発速度や使用量で測るのではなく、顧客価値を1機能リリースあたりに換算する新しい指標を開発しています。

機能リリースを1単位の作業として扱い、その特定のリリースに投資された実際のAIコストと生成される顧客価値を結びつけることで、作業ごとの総コストの「ブラックボックス」を解消します。

組織への影響と将来のガバナンス

AIの導入により、LegalOnは人材計画と採用戦略を見直し、AIスキルへの重点を置くようになりました。個々の専門知識をスケーラブルに実現するため、設計、実装、レビューにおけるモデルの組み合わせに関するベストプラクティスを共有する知識ベースを構築しています。

コントロールとアジャイル性のバランスについて、LegalOn Technologiesのシニアエンジニアリングマネージャーである時武雄太は次のように述べています：

"ルールや予算による過度な制限は、組織の勢いを損なう可能性があります。必要なのは、リスクコントロールとチームが求めるスピードの両方を効果的にバランスさせる柔軟な運用モデルです。"

このガバナンスフレームワークは、AID CoEとセキュリティチームが共同で管理し、パフォーマンス、コスト、リスクのバランスを図っています。

Sources