BorisPolonsky/dify-helm
Deploy langgenious/dify, an LLM based app on kubernetes with helm chart.
何を解決するか
このプロジェクトは、Kubernetes クラスタ上で Dify(LLM ベースのチャットボットアプリケーション)を簡単にデプロイできる Helm チャートを提供します。スケールした環境でプラットフォームを実行するために必要な、複数のバックエンドサービス、データベース、プロキシの複雑なオーケストレーションを処理します。
動作方法
Helm を使用して、以下の主要コンポーネントからなる包括的なネットワークアーキテクチャのインストールを自動化します:
- コアサービス:API サーバー、Web UI フロントエンド、バックグラウンドワーカー(Celery)、定期タスクスケジューラ(Beat)をデプロイ。
- 実行環境:コード実行用のセキュアなサンドボックスとエージェントシェル実行用のローカルサンドボックスをセットアップ。
- エージェント&プラグインインフラ:実行オーケストレーション用のエージェントバックエンドと、プラグインの管理・実行を行うプラグインデーモンをオーケストレーション。
- トラフィック管理:Nginx プロキシを使用して、Web フロントエンド、API エンドポイント、プラグインサービス間のトラフィックをルーティング。
- データレイヤー:PostgreSQL、MySQL などのデータベース、Redis などのキャッシュ、Weaviate、Qdrant、Milvus、PGVector などのベクトルデータベースと統合。
- ストレージ:ローカル PVC または AWS S3、Azure Blob、Google Cloud Storage などの外部オブジェクトストレージをサポート。
対象ユーザー
高可用性とスケーラビリティを確保するために、Kubernetes 上で Dify をデプロイ・管理したい DevOps エンジニアやプラットフォームチーム。
特徴
- 包括的なオーケストレーション:API、Web、Worker、サンドボックスコンポーネントを含む Dify スタック全体を管理。
- 柔軟なデータストレージ:幅広い外部データベース、ベクトルDB、オブジェクトストレージプロバイダーをサポート。
- エンタープライズ対応のネットワーキング:SSRF セキュリティプロキシと Nginx リバースプロキシを含み、セキュアかつ外部からのトラフィックルーティングを実現。
- Kubernetesネイティブ:Kubernetes 1.23+ および Helm 3.12+ 用に構築。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト