Fetch AI インフラストラクチャ移行：Hugging Face と AWS によるツールの統合

エグゼクティブサマリー

Fetchは、月間アクティブユーザーが1800万人に上る消費者向けリワード企業で、サードパーティのAIプロバイダーに依存していたところから、社内のAIプラットフォームへと移行しました。Hugging Face と Amazon Web Services（AWS）を活用することで、Fetchは約15種類のAIツールを統合し、1日あたり1100万件以上のレシートを処理できるようになり、開発時間を30％削減し、処理レイテンシーを50％削減しました。

サードパーティAIから社内MLへの移行

Fetchは以前、レシートのスキャンと処理にサードパーティのAIソリューションを利用しており、同社はそれを「ブラックボックス」と表現していました。この依存はビジネスリスクを生み、データインサイトの粒度を制限し、顧客がプロモーションにどのように関与したかについてビジネスパートナーに詳細な情報を提供できない原因となっていました。

この課題を解決するため、Fetchは社内に機械学習（ML）とAIの専門知識を構築しました。同社はAWSリソースを活用したモデル訓練により、8か月で移行を完了し、当初の12か月スケジュールより4か月早く実現しました。

技術実装とツール

Fetchは、いくつかの主要技術とプログラムを統合することで新しいAIインフラストラクチャを実装しました：

Hugging Face 統合

FetchはAWS Marketplaceを通じてHugging Face Expert Acceleration Programに参加しました。Hugging Faceはアドバイザリーサービスとナレッジトランスファーを提供し、Fetchのエンジニアがオープンソースのトランスフォーマーモデルを効果的に活用して、ドキュメントAIモデルにおけるエンティティ解決とセマンティック検索を改善できるようにしました。

AWS インフラストラクチャ

  • Amazon SageMaker: 完全に管理されたインフラストラクチャとワークフローを使用して、MLモデルの構築、訓練、デプロイに利用されました。
  • AWS Inferentia: ディープラーニング（DL）推論アプリケーションの高性能と低コストを実現するアクセラレータとして導入されました。

デプロイ戦略

移行中の安定性を確保するため、Fetchは「シャドウパイプライン」を利用しました。このシステムは、サードパーティのソリューションが稼働したまま、新しいMLパイプラインで1日あたり1100万件のレシートすべてを再処理し、監査と分析の目的で使用しました。これにより、新システムが主要なデータソースになる前に精度を確認できました。

主な成果とパフォーマンス向上

セルフマネージドのAIスタックへ移行することで、Fetchは運用面と技術面で大きな改善を得ました：

  • レイテンシ削減: レシートアップロードの処理レイテンシが50％削減され、ユーザー体験と顧客維持率が向上しました。
  • 開発効率: Hugging Face の指導とオープンソースリソースの活用により、開発時間が約30％短縮されました。
  • 訓練速度: モデル訓練時間が数日・数週間から数時間に短縮されました。
  • データ制御: 「ブラックボックス」依存を排除することで、Fetchはデータを完全に管理でき、ビジネスパートナーが求める特定の粒度のインサイトを抽出できるようになりました。

Sources