ogx-ai/ogx

OGX – オープンソース、OpenAI 互換の API サーバー

概要 – OGX（旧 Llama Stack）は、OpenAI の REST エンドポイント（/v1/chat/completions、/v1/embeddings など）を模倣するセルフホスト型 API サーバーです。OpenAI のクラウドサービスで使用するのと同じクライアント側コードの背後で、任意の LLM（Llama、GPT、Gemini、Mistral、またはカスタムモデル）を実行できます。

主な機能

• 標準の OpenAI エンドポイント – チャット、補完、埋め込み、バッチ、ベクターストア、ファイル処理用。
• Responses API – サーバー側のツール呼び出し、RAG（ファイル検索）、および単一リクエストでのマルチステップオーケストレーションを追加します。
• スキルバンドル（/v1alpha/skills）– エージェントが呼び出せるバージョン管理された zip パッケージ。
• マルチ SDK サポート – OpenAI ルートに加えて、Anthropic（/v1/messages）および Google GenAI（/v1alpha/interactions）のネイティブルート。
• プラグ可能なモデルプロバイダー – ローカルの Ollama、vLLM、または任意のマネージド推論サービスで動作します。API は変更されません。
• Open Responses 準拠 – 標準化されたエージェント応答のための OpenResponses テストスイートに合格。

使用方法

1. サーバーをインストールします（ワンライナースクリプトまたは uv pip install ogx）。
2. uv run ogx go を実行します。プロセスは利用可能なプロバイダーを自動検出します。
3. OpenAI 互換のクライアント（Python、TypeScript、curl など）を http://localhost:8321/v1 にダミーの API キーでポイントします。
4. 通常の OpenAI メソッドを呼び出します。例：

   from openai import OpenAI
   client = OpenAI(base_url="http://localhost:8321/v1", api_key="fake")
   resp = client.chat.completions.create(model="llama-3.3-70b", messages=[{"role":"user","content":"Hello"}])
   

対象読者 – クライアントコードを書き直さずに本番グレードのモデル非依存サービスを求める AI アプリケーション開発者、および組み込みの RAG やツール呼び出し機能を必要とするチーム。

ドキュメントとコミュニティ – 完全なドキュメント、クイックスタートノートブック、API リファレンスは ogx-ai.github.io でホストされています。公式の Python および TypeScript クライアント SDK が提供されています。コミュニティサポートは Discord と毎週のコミュニティコールで行われます。

---

TL;DR – OGX は OpenAI API のドロップインのオープンソース代替品であり、任意の LLM をラップし、既存の OpenAI、Anthropic、Google GenAI クライアントライブラリと互換性を保ちながら、追加のエージェント機能（ツール呼び出し、RAG、スキルバンドル）を追加します。