BorisPolonsky/dify-helm

Deploy langgenious/dify, an LLM based app on kubernetes with helm chart.

何を解決するか

このプロジェクトは、Kubernetes クラスタ上で Dify(LLM ベースのチャットボットアプリケーション)を簡単にデプロイできる Helm チャートを提供します。スケールした環境でプラットフォームを実行するために必要な、複数のバックエンドサービス、データベース、プロキシの複雑なオーケストレーションを処理します。

動作方法

Helm を使用して、以下の主要コンポーネントからなる包括的なネットワークアーキテクチャのインストールを自動化します:

  • コアサービス:API サーバー、Web UI フロントエンド、バックグラウンドワーカー(Celery)、定期タスクスケジューラ(Beat)をデプロイ。
  • 実行環境:コード実行用のセキュアなサンドボックスとエージェントシェル実行用のローカルサンドボックスをセットアップ。
  • エージェント&プラグインインフラ:実行オーケストレーション用のエージェントバックエンドと、プラグインの管理・実行を行うプラグインデーモンをオーケストレーション。
  • トラフィック管理:Nginx プロキシを使用して、Web フロントエンド、API エンドポイント、プラグインサービス間のトラフィックをルーティング。
  • データレイヤー:PostgreSQL、MySQL などのデータベース、Redis などのキャッシュ、Weaviate、Qdrant、Milvus、PGVector などのベクトルデータベースと統合。
  • ストレージ:ローカル PVC または AWS S3、Azure Blob、Google Cloud Storage などの外部オブジェクトストレージをサポート。

対象ユーザー

高可用性とスケーラビリティを確保するために、Kubernetes 上で Dify をデプロイ・管理したい DevOps エンジニアやプラットフォームチーム。

特徴

  • 包括的なオーケストレーション:API、Web、Worker、サンドボックスコンポーネントを含む Dify スタック全体を管理。
  • 柔軟なデータストレージ:幅広い外部データベース、ベクトルDB、オブジェクトストレージプロバイダーをサポート。
  • エンタープライズ対応のネットワーキング:SSRF セキュリティプロキシと Nginx リバースプロキシを含み、セキュアかつ外部からのトラフィックルーティングを実現。
  • Kubernetesネイティブ:Kubernetes 1.23+ および Helm 3.12+ 用に構築。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト