Nativu5/Gemini-FastAPI
Web-based Gemini models wrapped into an OpenAI-compatible API.
何を解決するか
Gemini-FastAPI は、公式の Google API キーを必要とせずに、Google のウェブベースの Gemini モデルに API を通じてアクセスする方法を提供します。このプロジェクトは、これらのモデルを OpenAI 互換 API にラップし、既存のツールやアプリケーションで OpenAI 形式を想定しているユーザーが Gemini を簡単に統合できるようにします。
動作方法
このプロジェクトは、サインイン済みの Google アカウントから取得したウェブクッキー(__Secure-1PSID および __Secure-1PSIDTS)を使用して、Gemini のウェブインターフェースへのリクエストを認証します。Gemini-API ライブラリによって駆動されており、FastAPI で構築されたサーバーは、LMDB を使用したストレージにより、マルチターン会話の永続化をサポートしています。
対象ユーザー
Google Search 統合やマルチモーダル入力といった、ウェブベースの Gemini 機能を無料で利用したい開発者、または Gemini ベースのアプリケーション用に OpenAI 互換エンドポイントが必要な開発者。
特徴
- OpenAI 互換性:
/v1/chat/completionsおよび/v1/modelsエンドポイントをサポート。ストリーミング、ツールコール、構造化 JSON 出力も対応。 - API キー不要: 認証にセッションクッキーを使用し、ウェブベースのモデルへの無料アクセスを可能に。
- マルチモーダル対応: テキスト、画像、ファイルアップロードを処理。
- ロードバランシング: 複数の Google アカウントと個別のプロキシ設定を使用してリクエストを分散し、レート制限を管理。
- コンテキスト管理: 過去の会話の要約(コンパクション)やファイル添付などの戦略で、過大なコンテキストを処理。
- 会話の永続化: LMDB を使用して、セッション間で会話履歴を維持。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト