ogx-ai/ogx

OGX 解説 (READMEに基づく)

タスク OGXは、ノートPC、データセンター、クラウドなど、あらゆるインフラストラクチャでLLMやエージェントワークフローを実行できるようにする、OpenAI互換のAPIサーバーを提供します。

入力 サーバーのエンドポイントへのHTTPリクエスト、例:

• /v1/chat/completions – チャットプロンプト
• /v1/embeddings – 埋め込み用テキスト
• /v1/files – ファイルアップロード
• /v1/vector_stores – RAG用ドキュメント
• /v1/batches – バッチジョブ仕様
• /v1alpha/skills – スキルバンドルマニフェスト
• Anthropic /v1/messages および Google GenAI /v1alpha/interactions コール

出力 サーバーからのレスポンス、例:

• 生成されたチャット補完
• 埋め込みベクトル
• ファイルおよびベクトルストアのID
• バッチジョブのステータス/結果
• スキル呼び出しの出力
• Anthropic または Google GenAI API からのレスポンス

アーキテクチャ

• プラグイン可能なプロバイダー層 – APIを変更することなく、バックエンド（Ollama, vLLM, マネージドサービス）を切り替え可能です。
• コアAPI層 – OpenAI Chat/Completions/Embeddings、Responses API（ツール呼び出し、MCP、ファイル検索を伴うエージェントのオーケストレーション）、Vector Stores & Files、Batches、Skills、およびネイティブな Anthropic と Google GenAI SDK エンドポイントを実装しています。
• Open Responses 準拠 – Responses API は Open Responses テストスイートに合格しています。
• マルチSDKサポート – クライアントは、同じサーバーに対して OpenAI、Anthropic、または Google GenAI SDK を使用できます。

学習データ N/A – OGXはサービングフレームワークであり、トレーニングされるモデルではありません。

損失 N/A – トレーニング損失は関与しません。

実行方法 (READMEより)

# Install
curl -LsSf https://github.com/ogx-ai/ogx/raw/main/scripts/install.sh | bash
# or: uv pip install ogx
# Start
uv run ogx go

その後、OpenAI互換のクライアント（または Anthropic/Google GenAI クライアント）を http://localhost:8321/v1 （または適切なSDKエンドポイント）に向けてください。

強調される主な機能

• OpenAI API のドロップイン・リプレイスメント。
• モデルに依存しない：Llama, GPT, Gemini, Mistral などに対応。
• ツール呼び出し、MCP サーバー統合、ファイル検索 RAG を備えた組み込みのエージェント・オーケストレーション (Responses API)。
• 管理されたベクトルストアとファイルストレージ。
• /v1/batches によるオフライン・バッチ処理。
• バージョン管理されたスキルバンドル (/v1alpha/skills)。
• 公式の Python および TypeScript クライアント SDK、および OpenAPI 生成の代替手段。
• Discord と定期的なミーティングによるコミュニティサポート。