InseeFrLab/onyxia
🔬 Data science environment for k8s
何を解決するか
Onyxiaは、データサイエンティストがKubernetesクラスタ上で作業環境を展開・管理できる集中型のWebインターフェースを提供します。複雑なインフラの手動設定を不要にし、JupyterやRStudioなどのさまざまなデータサイエンスツールをオンデマンドで起動できるようにします。
動作方法
Onyxiaは、さまざまなオープンソースのバックエンド技術の間の「接着剤」層として機能します。ユーザーはHelmチャートのカタログからコンテナを起動でき、以下の機能を備えています:
- リソース割り当て:ユーザーはセッションに必要なCPU、RAM、GPUリソースの量を指定できます。
- カスタマイズ:起動時に実行される環境変数やカスタム初期化スクリプトを定義できます。
- 統合:S3によるデータストレージ、Vaultによるシークレット管理、Keycloakによる認証と深く統合されています。
対象ユーザー
Kubernetesを活用してスケーラブルでオンデマンドの作業環境を提供するデータサイエンティストや組織。
特徴
- オンデマンド環境:Helmチャート経由でJupyter、RStudio、その他のツールを起動。
- GPUサポート:コンテナに対するGPU割り当てを直接制御可能。
- エンタープライズ統合:S3、Vault、Keycloakの組み込みサポート。
- 構成管理:サービス構成の保存と復元が可能。
関連
- プロジェクト
odysseus-dev/odysseusメール、カレンダー、ノートなどのツールとAI機能を統合した、一元化された自己ホスト型AIワークスペース。プライベート環境でデジタルライフとAIワークフローを管理できる。
- プロジェクト
dell/omniaOmniaは、Dellが開発するオープンソースのAnsibleベースのツールキットで、Linuxサーバーの自動プロビジョニング、ドライバーのインストール、SlurmまたはKubernetesを含むAI/MLフレームワークのデプロイを可能にします。HPCまたはオンプレミスAIクラスターの構築を簡素化しており、Apache 2.0ライセンスで、Dell、Intel、大学、その他のパートナーが参加するコミュニティによって積極的にメンテナンスされています。
- プロジェクト
- プロジェクト
lablup/backend.aiBackend.AIは、AI/MLワークロードを実行するためのオープンソースのコンテナベースのクラスタプラットフォームです。異種アクセラレータ上で隔離されたコンピュートセッション(Jupyter、VS Code、SSHなど)をスケジュールし、仮想フォルダストレージ層を提供し、REST/GraphQL APIとPython/Java/JS SDKを公開します。単一スクリプトでインストールし、Manager/Agent/Storage/Webサービスを起動し、CLIまたはWeb UIでセッションを開始します。LGPL-v3サーバーコード、MITクライアントSDK。
- プロジェクト
onyx-dot-app/onyxOnyxは、50以上のワークプレイスアプリからデータをインデックス化し、ハイブリッドなベクトル・キーワードストアを構築し、エージェントを通じてその知識をLLMに提供するオープンソースの自己ホスト型プラットフォームです。Web検索、サンドボックス化されたコード実行、外部アクション、音声対話をサポートし、主要なLLMプロバイダーと連携可能です。Docker/Kubernetes(標準または軽量なLiteモード)でデプロイでき、MITライセンスのコミュニティ版と、大規模チーム向けのエンタープライズアドオンが提供されています。