Dell Enterprise Hub アップデート:オンプレミス AI モデルとアプリケーション
Dell AI サーバー向け最適化モデルデプロイ
Dell Enterprise Hub は、特定の Dell AI Server プラットフォーム向けに最適化された完全にテスト済みのコンテナを提供し、Docker と Kubernetes を使用したデプロイおよびトレーニングを可能にします。このアプローチにより、モデルはベンチマークされ、最大の即時パフォーマンスが得られるように構成されます。
利用可能な主なモデルは次のとおりです:
- Meta Llama 4 Maverick (NVIDIA H200 または AMD MI300X Dell PowerEdge サーバーでデプロイ可能)
- DeepSeek R1
- Google Gemma 3
迅速な提供を確保するため、ハブは Dell CTIO およびエンジニアリングチームと連携して新リリースを最適化します。例えば、Meta の公開リリースからわずか1時間以内に Llama 4 モデルがハブで利用可能になりました。
すぐに展開できる AI アプリケーションカタログ
生のモデルに加えて、Dell Enterprise Hub にはプライベートネットワーク内でオープンソース AI アプリケーションをデプロイするためのアプリケーションカタログが含まれています。これらのアプリケーションはカスタマイズ可能な Helm チャートを利用し、デプロイ時に Model Context Protocol (MCP) サーバーが登録されることを保証します。
主なアプリケーションは次のとおりです:
- OpenWebUI: オンプレミスのチャットボットアシスタントをデプロイでき、MCP を利用して内部データやサービスに接続し、ベクトルデータベースやウェブ検索を介した RAG(検索強化生成)ユースケースをサポートします。
- AnythingLLM: 複数の MCP サーバーに接続できるエージェント型アシスタントを構築するプラットフォームです。複数のモデル、画像・文書処理、内部ユーザー向けのロールベースアクセス制御をサポートします。
複数ハードウェアアクセラレータのサポート
Dell Enterprise Hub は、3 つの主要な AI アクセラレータハードウェアプロバイダー全てに対して、すぐに使用できるモデルデプロイソリューションを提供する唯一のプラットフォームです:
- NVIDIA: H100 および H200 GPU 搭載 Dell プラットフォーム。
- AMD: MI300X 搭載 Dell プラットフォーム。
- Intel: Gaudi 3 搭載 Dell プラットフォーム。
Dell AI PC 向けオンデバイス AI
ハブは、Intel または Qualcomm NPU 搭載の Dell AI PC 向けにオンデバイス推論をサポートするよう拡張されました。これにより、IT 組織は Dell Pro AI Studio と Microsoft Intune などのフリート管理システムを通じて、従業員にプライベートなオンデバイス AI 機能を提供できます。
サポートされるオンデバイス機能は次のとおりです:
- Speech transcription: OpenAI Whisper による音声文字起こし。
- Chat assistants: Microsoft Phi と Qwen 2.5 によるチャットアシスタント。
- Image upscaling and embedding generation: 画像のアップスケーリングと埋め込み生成。
開発者向けツール:CLI と Python SDK
Dell Enterprise Hub を開発ワークフローに統合するため、Hugging Face は dell-ai オープンソースライブラリをリリースしました。このライブラリは Python SDK とコマンドラインインターフェース(CLI)を提供し、開発者はターミナルやコードから pip install dell-ai を通じてハブと直接やり取りできます。