Dell Enterprise Hub アップデート:オンプレミス AI モデルとアプリケーション

Dell AI サーバー向け最適化モデルデプロイ

Dell Enterprise Hub は、特定の Dell AI Server プラットフォーム向けに最適化された完全にテスト済みのコンテナを提供し、Docker と Kubernetes を使用したデプロイおよびトレーニングを可能にします。このアプローチにより、モデルはベンチマークされ、最大の即時パフォーマンスが得られるように構成されます。

利用可能な主なモデルは次のとおりです:

  • Meta Llama 4 Maverick (NVIDIA H200 または AMD MI300X Dell PowerEdge サーバーでデプロイ可能)
  • DeepSeek R1
  • Google Gemma 3

迅速な提供を確保するため、ハブは Dell CTIO およびエンジニアリングチームと連携して新リリースを最適化します。例えば、Meta の公開リリースからわずか1時間以内に Llama 4 モデルがハブで利用可能になりました。

すぐに展開できる AI アプリケーションカタログ

生のモデルに加えて、Dell Enterprise Hub にはプライベートネットワーク内でオープンソース AI アプリケーションをデプロイするためのアプリケーションカタログが含まれています。これらのアプリケーションはカスタマイズ可能な Helm チャートを利用し、デプロイ時に Model Context Protocol (MCP) サーバーが登録されることを保証します。

主なアプリケーションは次のとおりです:

  • OpenWebUI: オンプレミスのチャットボットアシスタントをデプロイでき、MCP を利用して内部データやサービスに接続し、ベクトルデータベースやウェブ検索を介した RAG(検索強化生成)ユースケースをサポートします。
  • AnythingLLM: 複数の MCP サーバーに接続できるエージェント型アシスタントを構築するプラットフォームです。複数のモデル、画像・文書処理、内部ユーザー向けのロールベースアクセス制御をサポートします。

複数ハードウェアアクセラレータのサポート

Dell Enterprise Hub は、3 つの主要な AI アクセラレータハードウェアプロバイダー全てに対して、すぐに使用できるモデルデプロイソリューションを提供する唯一のプラットフォームです:

  • NVIDIA: H100 および H200 GPU 搭載 Dell プラットフォーム。
  • AMD: MI300X 搭載 Dell プラットフォーム。
  • Intel: Gaudi 3 搭載 Dell プラットフォーム。

Dell AI PC 向けオンデバイス AI

ハブは、Intel または Qualcomm NPU 搭載の Dell AI PC 向けにオンデバイス推論をサポートするよう拡張されました。これにより、IT 組織は Dell Pro AI Studio と Microsoft Intune などのフリート管理システムを通じて、従業員にプライベートなオンデバイス AI 機能を提供できます。

サポートされるオンデバイス機能は次のとおりです:

  • Speech transcription: OpenAI Whisper による音声文字起こし。
  • Chat assistants: Microsoft Phi と Qwen 2.5 によるチャットアシスタント。
  • Image upscaling and embedding generation: 画像のアップスケーリングと埋め込み生成。

開発者向けツール:CLI と Python SDK

Dell Enterprise Hub を開発ワークフローに統合するため、Hugging Face は dell-ai オープンソースライブラリをリリースしました。このライブラリは Python SDK とコマンドラインインターフェース(CLI)を提供し、開発者はターミナルやコードから pip install dell-ai を通じてハブと直接やり取りできます。

Sources