apocas/restai

RESTai – AI‑as‑Service 平台

它是什么 – 一个自托管的 Web 服务，允许您通过简洁的 REST API 与内置的 React 仪表板，创建、管理并公开 AI 项目（LLM 聊天、RAG、代理、图像生成等）。它捆绑了运行 LLM 应用所需的一切，无需编写代码：数据摄取、向量存储、提示词版本管理、分析、多租户团队，并支持可选的 Kubernetes/Docker 部署。

核心能力

• 多项目管理 – 每个项目可以自行选择 LLM（OpenAI、Anthropic、Ollama、Gemini、Azure、LiteLLM、vLLM 等）和配置。
• RAG 与知识图谱 – 上传文档、从 URL/S3/Confluence/SharePoint/Google Drive 同步，存入向量数据库，可选运行 NER 构建实体图谱，以实现更丰富的检索。
• 代理与 MCP – 零样本 ReAct 代理内置工具（通过 Playwright 的浏览器自动化、终端、分类器等），并支持 Model Context Protocol 以暴露自定义工具。
• 可视化块构建器 – Blockly 风格的流程编辑器，无需代码即可组合流水线；可调用其他 RESTai 项目。
• 分析与成本追踪 – 仪表板展示 token 使用量、延迟、每项目支出以及安全防护统计。
• 安全与治理 – RBAC、OAuth/LDAP、TOTP 2FA、加密密钥库、每项目速率限制、输入/输出守卫、审计日志。
• 直接兼容 OpenAI 的端点 – /v1/chat/completions、/v1/images/generations、/v1/audio/transcriptions 开箱即用。
• 可部署性 – 通过 PyPI（restai-core）、Docker 镜像（apocas/restai）或 Kubernetes 安装；自动检测 GPU 并安装相应依赖。

典型使用场景

• 公司内部知识库聊天机器人（带文档同步的 RAG）。
• 嵌入网站的客服小部件。
• 自动化代理登录供应商门户、抓取数据并生成报告。
• 多团队 SaaS 产品，每个客户拥有自己的品牌 AI 控制台。
• 使用可视化 Block IDE 快速原型 AI 流程。

快速开始

pip install restai-core          # 安装后端 + React UI
restai init                      # 创建数据库 & 管理员用户
restai migrate                   # 应用迁移
restai serve -p 8080 -w 4        # 启动 http://localhost:8080/admin

或运行官方 Docker 镜像：

docker run -p 9000:9000 apocas/restai:latest

两种方式都会提供完整 UI（admin/admin）和 REST 端点。

许可证 – Apache 2.0（参见 README 中的徽章）。

---

以上信息直接取自仓库的 README，未推断额外功能。