ogx-ai/ogx

OGX 解釋 (僅基於 README)

任務 OGX 提供了一個與 OpenAI 相容的 API 伺服器，讓您可以在任何地方（筆記型電腦、數據中心或雲端）執行 LLM 和代理工作流。

輸入 向伺服器端點發送 HTTP 請求，例如：

• /v1/chat/completions – 對話提示詞
• /v1/embeddings – 待嵌入文本
• /v1/files – 檔案上傳
• /v1/vector_stores – 用於 RAG 的文件
• /v1/batches – 批次作業規範
• /v1alpha/skills – 技能包清單
• Anthropic /v1/messages 和 Google GenAI /v1alpha/interactions 呼叫

輸出 來自伺服器的回應，例如：

• 生成的對話補全
• 嵌入向量
• 檔案和向量庫 ID
• 批次作業狀態/結果
• 技能呼叫輸出
• 來自 Anthropic 或 Google GenAI API 的回應

架構

• 可插拔的提供者層 – 無需更改 API 即可更換後端（Ollama, vLLM, 託管服務）。
• 核心 API 層 – 實作 OpenAI Chat/Completions/Embeddings、Responses API（帶有工具呼叫、MCP、檔案搜尋的代理編排）、向量庫與檔案、批次、技能，以及原生的 Anthropic 和 Google GenAI SDK 端點。
• 符合 Open Responses 標準 – Responses API 通過了 Open Responses 測試套件。
• 多 SDK 支援 – 用戶端可以使用 OpenAI、Anthropic 或 Google GenAI SDK 連接到同一個伺服器。

訓練數據 不適用 – OGX 是一個推理框架，而不是需要訓練的模型。

損失 不適用 – 不涉及訓練損失。

如何執行 (根據 README)

# Install
curl -LsSf https://github.com/ogx-ai/ogx/raw/main/scripts/install.sh | bash
# or: uv pip install ogx
# Start
uv run ogx go

然後將任何相容 OpenAI 的用戶端（或 Anthropic/Google GenAI 用戶端）指向 http://localhost:8321/v1（或相應的 SDK 端點）。

核心能力亮點

• OpenAI API 的即插即用替代方案。
• 模型無關：支援 Llama, GPT, Gemini, Mistral 等。
• 內建代理編排 (Responses API)，具備工具呼叫、MCP 伺服器整合和檔案搜尋 RAG 功能。
• 託管的向量庫和檔案儲存。
• 透過 /v1/batches 進行離線批次處理。
• 版本化的技能包 (/v1alpha/skills)。
• 官方 Python 和 TypeScript 用戶端 SDK，以及由 OpenAPI 生成的替代方案。
• 透過 Discord 和定期會議提供社群支援。