DeepSeek‑V3‑0324 リリースノート
DeepSeek は DeepSeek-V3-0324 をリリースしました。これは R1 推論モデルの基盤となるベースモデルの更新版で、指示遵守、数式推論、コーディング能力の向上に焦点を当て、モデルを MIT ライセンスへ移行させたものです。
パフォーマンスベンチマークと機能
DeepSeek-V3-0324 は主要ベンチマークで高い性能を示し、しばしば GPT-4.5 と同等、一般的に Claude‑Sonnet‑3.7 を上回ります。
ベンチマークの改善
モデルは前バージョンに比べ、以下の領域で大幅な向上を示しています:
- MMLU‑Pro: 75.9 から 81.2 へ (+5.3) 、全体的な理解力の向上を示す。
- GPQA: 59.1 から 68.4 へ (+9.3)。
- AIME: 39.6 から 59.4 へ (+19.8)、数学能力の指標として機能。
- LiveCodeBench: 39.2 から 49.2 へ (+10.0)、コーディング能力の向上を示す。
ターゲット機能強化
DeepSeek は以下の領域で具体的な改善を確認しました:
- フロントエンド Web 開発: コードの実行性とゲームフロントエンドやウェブページの美的品質が向上。
- 中国語執筆能力: 中長文執筆のスタイルと内容の質が向上し、R1 の執筆スタイルに合わせ、翻訳や手紙作成も最適化。
- 中国語検索機能: レポート分析リクエストに対して、より詳細な出力が可能に。
- 関数呼び出し: 正確性が向上し、以前の V3 バージョンにあった問題が解消。
技術的実装
完全な技術レポートは未公開ですが、モデルは元の DeepSeek‑V3 と同じアーキテクチャを維持しています。以下の手法で改善が達成されたと推測されます:
- 継続的事前学習: より新しく、品質が高く、精選されたデータを使用し、一般的な能力と最近の出来事に関する事実性を向上。
- 事後学習の改善: 事後学習データのミックスやアルゴリズムを洗練し、指示遵守とスタイルを強化。
デプロイと推論オプション
DeepSeek-V3-0324 は利用可能な計算リソースに応じて、複数の方法でデプロイできます。
マネージド推論
モデルは Hugging Face Inference Providers(Fireworks、Hyperbolic、Novita など)を通じて利用可能です。
セルフホスト推論
- Text Generation Inference (TGI): 最新リリース (v3.2.1) でサポートされ、Docker を使って H100 ノード上で実行可能。
- SGLang: マルチラテントアテンションとデータ並列最適化を備え、モデルを即座にサポート。
低 VRAM 用量子化
フルモデルの高い VRAM 要件を削減するため、Unsloth AI が Dynamic Quantization を提供しています。これにより llama.cpp を使用して単一 H100 ノードの半分の計算リソースで実行でき、ベンチマーク性能の低下は最小限です。
セキュリティと安全性の考慮事項
モデル配布の安全性
モデルのダウンロードと実行は、Hugging Face Hub の複数の保護策により安全とみなされます:
- Safetensors:
safetensors形式の使用により、旧 PyTorch のpickle形式に伴う隠しコード実行リスクが防止されます。 - モデリングコードのセキュリティ: コードはハブ上で完全に可視化され、実行にはユーザーが
trust_remote_code=Trueを設定する必要があり、セキュリティスキャナの対象となります。revision設定でモデルバージョンを固定すれば、環境をさらに保護できます。
出力と使用リスク
モデル出力を利用する際は、標準的な安全対策を講じるべきです:
- アラインメント: すべての LLM はモデル提供者のアラインメント価値に基づくバイアスを持つことを認識してください。
- コード生成: 提案されたコードは徹底的にレビューし、脆弱性スキャンを実施してください。モデルは学習データ中の既知の脆弱性を含むコードを生成する可能性があります。
- エージェント: 自律エージェントでモデルを使用する場合、サンドボックスを利用して不正なシステムアクセスを防止し、機密資格情報の共有を避け、重要なプロセスではヒューマン・イン・ザ・ループを維持することが推奨されます。
Sources
- OriginalOpen R1: Update #4
関連
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch