apocas/restai

它解決了什麼問題

RESTai 是一個 AI-as-a-Service (AIaaS) 平台，允許使用者建立、管理並部署 AI 專案——例如 RAG 系統、代理 (agents) 和推論端點 (inference endpoints)——並透過簡單的 REST API 進行使用。它透過提供一個用於配置、分析和部署的集中式儀表板，消除了為每個 AI 應用程式構建自定義基礎設施的需求。

運作方式

該平台提供一個基於 React 的儀表板，使用者可以在其中使用特定的 LLM、系統提示詞 (system prompts) 和工具來配置專案。它支援廣泛的 LLM 提供者 (OpenAI, Anthropic, Ollama, Gemini, 等) 並為不同的 AI 任務提供專門的模組：

• RAG & Knowledge Graphs: 從各種來源 (S3, URLs, Google Drive) 攝取文件，並使用向量資料庫和實體提取進行檢索。
• Agents: 實作支援 Model Context Protocol (MCP) 和用於網頁自動化的 headless Chromium 瀏覽器的 zero-shot ReAct agents。
• Visual Logic: 一個基於 Blockly 的 IDE，允許使用者在不撰寫程式碼的情況下建立處理流程。
• Inference: 提供直接的多模態聊天和補全端點，包括與 OpenAI 相容的 API。
• Management: 包含內建的 RBAC、團隊多租戶架構、提示詞版本控制以及由 DeepEval 提供支援的評估框架。

對象是誰

它專為想要快速部署 AI 能力而無需管理底層架構的開發者和團隊而設計，也適合需要具有稽核日誌、2FA 和白標 (white-labeling) 等企業級功能的多租戶 AI 平台組織。

重點功能

• Comprehensive AI Toolset: 將 RAG、agents、視覺化邏輯和多模態推論整合在一個平台中。
• Agentic Browser: 整合 headless Chromium 並配備加密的 secrets vault 和網域白名單，以實現安全的網頁自動化。
• Knowledge Graph RAG: 具備實體感知檢索和視覺化圖形瀏覽器，以提高對特定名稱和組織的召回率。
• Enterprise-Ready: 具備 RBAC、TOTP 2FA、白標品牌化和 Kubernetes-native 部署。
• MCP Support: 內建 MCP server，可將專案作為工具提供給 Claude Desktop 或 Cursor 等客戶端使用。
• Analytics & Eval: 詳細的 token 追蹤、成本/延遲監控，以及用於提示詞品質的內建評估框架。