apocas/restai
RESTai is an AIaaS (AI as a Service) open-source platform. Supports many public and local LLM suported by Ollama/vLLM/etc. Precise embeddings usage, tuning, analytics etc. Built-in image/audio generation with dynamic loading generators. Live chat deployment. Built-in block based graphical language. Prompt versioning and much more...
RESTai – AI‑as‑Service プラットフォーム
何か – セルフホスト型 Web サービスで、シンプルな REST API と組み込みの React ダッシュボードを通じて AI プロジェクト(LLM チャット、RAG、エージェント、画像生成など)を作成・管理・公開できます。コードを書かずに LLM バックエンドアプリを実行するために必要なものをすべてパッケージ化:データ取り込み、ベクトルストア、プロンプトバージョン管理、分析、マルチテナントチーム、オプションの Kubernetes/Docker デプロイ。
コア機能
- マルチプロジェクト管理 – 各プロジェクトは独自に LLM(OpenAI、Anthropic、Ollama、Gemini、Azure、LiteLLM、vLLM など)と設定を選択可能。
- RAG とナレッジグラフ – ドキュメントをアップロード、URL/S3/Confluence/SharePoint/Google Drive から同期、ベクトル DB に保存、必要に応じて NER を実行してエンティティグラフを構築し、リトリーバルを強化。
- エージェントと MCP – 零ショット ReAct エージェントに組み込みツール(Playwright によるブラウザ自動化、ターミナル、分類器等)を提供し、Model Context Protocol によりカスタムツールを公開可能。
- ビジュアルブロックビルダー – Blockly 風フローレイアウトエディタでコード不要でパイプラインを組み立て、他の RESTai プロジェクトも呼び出せる。
- 分析とコスト追跡 – ダッシュボードでトークン使用量、レイテンシ、プロジェクト別支出、ガードレール統計を表示。
- セキュリティとガバナンス – RBAC、OAuth/LDAP、TOTP 2FA、暗号化シークレットボールト、プロジェクト単位のレートリミット、入出力ガード、監査ログ。
- OpenAI 互換エンドポイント –
/v1/chat/completions、/v1/images/generations、/v1/audio/transcriptionsがすぐに利用可能。 - デプロイ性 – PyPI(
restai-core)、Docker イメージ(apocas/restai)または Kubernetes でインストール。GPU を自動検出し適切な依存関係をインストール。
典型的なユースケース
- 社内ナレッジベースチャットボット(ドキュメント同期付き RAG)。
- ウェブサイトに埋め込むカスタマーサポートウィジェット。
- ベンダーポータルにログインしデータをスクレイプ、レポートを生成する自動エージェント。
- 各クライアントにブランド化された AI コンソールを提供するマルチチーム SaaS。
- ビジュアル Block IDE を使った AI パイプラインの迅速なプロトタイピング。
はじめに
pip install restai-core # バックエンド + React UI をインストール
restai init # DB と管理者ユーザーを作成
restai migrate # マイグレーションを適用
restai serve -p 8080 -w 4 # http://localhost:8080/admin を起動
または公式 Docker イメージを実行:
docker run -p 9000:9000 apocas/restai:latest
どちらの方法でもフル UI(admin/admin)と REST エンドポイントが利用可能です。
ライセンス – Apache 2.0(README のバッジ参照)。
上記情報はリポジトリの README から直接引用したもので、追加機能は推測していません。