apocas/restai

RESTai is an AIaaS (AI as a Service) open-source platform. Supports many public and local LLM suported by Ollama/vLLM/etc. Precise embeddings usage, tuning, analytics etc. Built-in image/audio generation with dynamic loading generators. Live chat deployment. Built-in block based graphical language. Prompt versioning and much more...

RESTai – AI‑as‑Service プラットフォーム

何か – セルフホスト型 Web サービスで、シンプルな REST API と組み込みの React ダッシュボードを通じて AI プロジェクト(LLM チャット、RAG、エージェント、画像生成など)を作成・管理・公開できます。コードを書かずに LLM バックエンドアプリを実行するために必要なものをすべてパッケージ化:データ取り込み、ベクトルストア、プロンプトバージョン管理、分析、マルチテナントチーム、オプションの Kubernetes/Docker デプロイ。

コア機能

  • マルチプロジェクト管理 – 各プロジェクトは独自に LLM(OpenAI、Anthropic、Ollama、Gemini、Azure、LiteLLM、vLLM など)と設定を選択可能。
  • RAG とナレッジグラフ – ドキュメントをアップロード、URL/S3/Confluence/SharePoint/Google Drive から同期、ベクトル DB に保存、必要に応じて NER を実行してエンティティグラフを構築し、リトリーバルを強化。
  • エージェントと MCP – 零ショット ReAct エージェントに組み込みツール(Playwright によるブラウザ自動化、ターミナル、分類器等)を提供し、Model Context Protocol によりカスタムツールを公開可能。
  • ビジュアルブロックビルダー – Blockly 風フローレイアウトエディタでコード不要でパイプラインを組み立て、他の RESTai プロジェクトも呼び出せる。
  • 分析とコスト追跡 – ダッシュボードでトークン使用量、レイテンシ、プロジェクト別支出、ガードレール統計を表示。
  • セキュリティとガバナンス – RBAC、OAuth/LDAP、TOTP 2FA、暗号化シークレットボールト、プロジェクト単位のレートリミット、入出力ガード、監査ログ。
  • OpenAI 互換エンドポイント/v1/chat/completions/v1/images/generations/v1/audio/transcriptions がすぐに利用可能。
  • デプロイ性 – PyPI(restai-core)、Docker イメージ(apocas/restai)または Kubernetes でインストール。GPU を自動検出し適切な依存関係をインストール。

典型的なユースケース

  • 社内ナレッジベースチャットボット(ドキュメント同期付き RAG)。
  • ウェブサイトに埋め込むカスタマーサポートウィジェット。
  • ベンダーポータルにログインしデータをスクレイプ、レポートを生成する自動エージェント。
  • 各クライアントにブランド化された AI コンソールを提供するマルチチーム SaaS。
  • ビジュアル Block IDE を使った AI パイプラインの迅速なプロトタイピング。

はじめに

pip install restai-core          # バックエンド + React UI をインストール
restai init                      # DB と管理者ユーザーを作成
restai migrate                   # マイグレーションを適用
restai serve -p 8080 -w 4        # http://localhost:8080/admin を起動

または公式 Docker イメージを実行:

docker run -p 9000:9000 apocas/restai:latest

どちらの方法でもフル UI(admin/admin)と REST エンドポイントが利用可能です。

ライセンス – Apache 2.0(README のバッジ参照)。


上記情報はリポジトリの README から直接引用したもので、追加機能は推測していません。