apocas/restai

RESTai is an AIaaS (AI as a Service) open-source platform. Supports many public and local LLM suported by Ollama/vLLM/etc. Precise embeddings usage, tuning, analytics etc. Built-in image/audio generation with dynamic loading generators. Live chat deployment. Built-in block based graphical language. Prompt versioning and much more...

何を解決するか

RESTai は AI-as-a-Service (AIaaS) プラットフォームであり、ユーザーが RAG システム、エージェント、推論エンドポイントなどの AI プロジェクトを作成、管理、デプロイし、シンプルな REST API を通じて利用できるようにします。個々の AI アプリケーションごとにカスタムインフラを構築する必要がなくなるように、設定、分析、デプロイのための中央集権的なダッシュボードを提供します。

仕組み

このプラットフォームは React をベースにしたダッシュボードを提供し、ユーザーが特定の LLM、システムプロンプト、ツールを設定できるようにします。さまざまな LLM プロバイダ(OpenAI、Anthropic、Ollama、Gemini など)をサポートし、異なる AI タスク向けの専用モジュールも提供しています:

  • RAG および知識グラフ:S3、URL、Google Drive などさまざまなソースからのドキュメントをインジェストし、ベクトルストアとエンティティ抽出を用いて検索を行います。
  • エージェント:Model Context Protocol (MCP) をサポートするゼロショット ReAct エージェントを実装し、Web 自動化用にヘッドレス Chromium ブラウザを提供します。
  • ビジュアルロジック:Blockly をベースにした IDE を使って、コードを書かずに処理パイプラインを構築できます。
  • 推論:OpenAI 互換 API を含む、マルチモーダルチャットおよびコンプリーションエンドポイントを直接提供します。
  • 管理:組み込みの RBAC、チームマルチテナンシー、プロンプトバージョニング、DeepEval を駆動する評価フレームワークを備えています。

対象ユーザー

下層のインフラを管理せずに迅速に AI 機能をデプロイしたい開発者やチーム、および監査ログ、2FA、ホワイトラベル化などのエンタープライズ機能を備えたマルチテナンシー AI プラットフォームを必要とする組織に最適です。

特徴

  • 包括的な AI ツールキット:RAG、エージェント、ビジュアルロジック、マルチモーダル推論を1つのプラットフォームで統合。
  • エージェントブラウザ:暗号化されたシークレットボルトとドメイン許可リストを備えたヘッドレス Chromium 統合により、安全な Web 自動化を実現。
  • 知識グラフ RAG:エンティティを意識した検索と視覚的なグラフエクスプローラーにより、特定の名前や組織に対するリコールを向上。
  • エンタープライズ対応:RBAC、TOTP 2FA、ホワイトラベルブランディング、Kubernetes ネイティブデプロイを備えています。
  • MCP 対応:Claude Desktop や Cursor などのクライアント向けにプロジェクトをツールとして公開するための組み込み MCP サーバーを備えています。
  • 分析と評価:詳細なトークン追跡、コスト/レイテンシーモニタリング、プロンプト品質のための組み込み評価フレームワークを提供します。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト