Ollamaサポートを備えたFirebase Genkit

GoogleはGoogle I/O 2024において、開発者が本番環境向けのAI搭載アプリケーションを構築、デプロイ、および監視するためのオープンソースフレームワークであるFirebase Genkitのリリースを発表しました。このフレームワークにはOllamaのネイティブサポートが含まれており、開発者が開発およびテストのためにGoogleのオープンソースモデルであるGemmaをローカルマシン上で実行することを可能にします。

OllamaとGemmaを使用したローカルAI開発

Firebase GenkitはOllamaと統合されており、GoogleのGemmaモデルをローカルで実行することを可能にします。この統合により、開発者は開発フェーズにおいてクラウドベースのAPIにのみ依存することなく、AI機能を反復的に改善できます。セットアップはMacOS、Windows、Linux、およびDockerコンテナを介してサポートされています。

技術的な実装とセットアップ

OllamaをFirebase Genkitと統合するには、まずGenkit CLIをインストールし、Ollama経由でGemmaモデルをプルする必要があります。初期化プロセスには以下の手順が含まれます：

1. Installation: npm i -g genkitを使用してGenkit CLIをグローバルにインストールします。
2. Model Acquisition: ollama pull gemmaコマンドを使用してGemmaモデルをダウンロードします。
3. Project Initialization: 新しいNode.jsプロジェクトを作成し、npm initを実行し、genkit initを実行してフレームワークを初期化します。
4. Provider Selection: genkit initプロセス中に、モデルプロバイダーとしてOllamaを選択できます。

初期化が完了すると、Genkitはlocalhost:4000で動作し、AIワークフローのテストと監視のための開発者インターフェースを提供します。

エコシステムと最適化

Firebase GenkitはGitHub上のオープンソースプロジェクトとして利用可能です。NVIDIAハードウェアを使用している開発者のために、NVIDIAはFirebase GenkitがRTX GPU上で動作するように特定の最適化を提供しており、生成AI開発のためのローカルパフォーマンスをさらに向上させています。