ogx-ai/ogx

OGX 说明 (仅基于 README)

任务 OGX 提供了一个与 OpenAI 兼容的 API 服务器，让您可以在任何地方（笔记本电脑、数据中心或云端）运行 LLM 和智能体工作流。

输入 向服务器端点发送 HTTP 请求，例如：

• /v1/chat/completions – 对话提示词
• /v1/embeddings – 待嵌入文本
• /v1/files – 文件上传
• /v1/vector_stores – 用于 RAG 的文档
• /v1/batches – 批处理作业规范
• /v1alpha/skills – 技能包清单
• Anthropic /v1/messages 和 Google GenAI /v1alpha/interactions 调用

输出 来自服务器的响应，例如：

• 生成的对话补全
• 嵌入向量
• 文件和向量库 ID
• 批处理作业状态/结果
• 技能调用输出
• 来自 Anthropic 或 Google GenAI API 的响应

架构

• 可插拔的提供商层 – 无需更改 API 即可更换后端（Ollama, vLLM, 托管服务）。
• 核心 API 层 – 实现 OpenAI Chat/Completions/Embeddings、Responses API（带有工具调用、MCP、文件搜索的智能体编排）、向量库与文件、批处理、技能，以及原生的 Anthropic 和 Google GenAI SDK 端点。
• 符合 Open Responses 标准 – Responses API 通过了 Open Responses 测试套件。
• 多 SDK 支持 – 客户端可以使用 OpenAI、Anthropic 或 Google GenAI SDK 连接到同一个服务器。

训练数据 不适用 – OGX 是一个推理框架，而不是需要训练的模型。

损失 不适用 – 不涉及训练损失。

如何运行 (根据 README)

# Install
curl -LsSf https://github.com/ogx-ai/ogx/raw/main/scripts/install.sh | bash
# or: uv pip install ogx
# Start
uv run ogx go

然后将任何兼容 OpenAI 的客户端（或 Anthropic/Google GenAI 客户端）指向 http://localhost:8321/v1（或相应的 SDK 端点）。

核心能力亮点

• OpenAI API 的即插即用替代方案。
• 模型无关：支持 Llama, GPT, Gemini, Mistral 等。
• 内置智能体编排 (Responses API)，具备工具调用、MCP 服务器集成和文件搜索 RAG 功能。
• 托管的向量库和文件存储。
• 通过 /v1/batches 进行离线批处理。
• 版本化的技能包 (/v1alpha/skills)。
• 官方 Python 和 TypeScript 客户端 SDK，以及由 OpenAPI 生成的替代方案。
• 通过 Discord 和定期会议提供社区支持。