Nativu5/Gemini-FastAPI

Web-based Gemini models wrapped into an OpenAI-compatible API.

何を解決するか

Gemini-FastAPI は、公式の Google API キーを必要とせずに、Google のウェブベースの Gemini モデルに API を通じてアクセスする方法を提供します。このプロジェクトは、これらのモデルを OpenAI 互換 API にラップし、既存のツールやアプリケーションで OpenAI 形式を想定しているユーザーが Gemini を簡単に統合できるようにします。

動作方法

このプロジェクトは、サインイン済みの Google アカウントから取得したウェブクッキー(__Secure-1PSID および __Secure-1PSIDTS)を使用して、Gemini のウェブインターフェースへのリクエストを認証します。Gemini-API ライブラリによって駆動されており、FastAPI で構築されたサーバーは、LMDB を使用したストレージにより、マルチターン会話の永続化をサポートしています。

対象ユーザー

Google Search 統合やマルチモーダル入力といった、ウェブベースの Gemini 機能を無料で利用したい開発者、または Gemini ベースのアプリケーション用に OpenAI 互換エンドポイントが必要な開発者。

特徴

  • OpenAI 互換性: /v1/chat/completions および /v1/models エンドポイントをサポート。ストリーミング、ツールコール、構造化 JSON 出力も対応。
  • API キー不要: 認証にセッションクッキーを使用し、ウェブベースのモデルへの無料アクセスを可能に。
  • マルチモーダル対応: テキスト、画像、ファイルアップロードを処理。
  • ロードバランシング: 複数の Google アカウントと個別のプロキシ設定を使用してリクエストを分散し、レート制限を管理。
  • コンテキスト管理: 過去の会話の要約(コンパクション)やファイル添付などの戦略で、過大なコンテキストを処理。
  • 会話の永続化: LMDB を使用して、セッション間で会話履歴を維持。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト