DeepSeek-V4-Flash-0731-Latent-Reasoning リリースノート

DeepSeek-V4-Flash-0731-Latent-Reasoning は、「思考」プロセスを潜在空間（latent space）に移動させる特化型モデルの実装です。推論トークンを圧縮し、テキストとして出力するのではなく潜在的な形式で保持することで、モデルは推論プロセスを最適化しつつ、カスタム vLLM フォークを通じてプロダクション環境に適したサービング・ランタイムを維持します。

パフォーマンスと評価

このモデルは、BIG-Bench Hard (BBH) cot_zeroshot ベンチマークの 27 個のサブタスクにおいて、合計スコア 0.880（測定範囲 0.94 0.008）を達成しています。

推論の強みと弱み

  • 高い習熟度: モデルは多段階の状態追跡（multi-step state tracking）において最も高い能力を発揮します。tracking_shuffled_objects、boolean_expressions、formal_fallacies、および penguins_in_a_table といったサブタスクは、すべて 1.00 の完璧なスコアを達成しました。
  • 重大な弱点: モデルは機械的で構文に依存するタスクに苦戦します。dyck_languages（括弧の一致）サブタスクのスコアは 0.26 であり、これは構造化された構文処理における真の推論の失敗を示しています。

技術的アーキテクチャ

モデルは、潜在的な推論を扱うために変分圧縮ヘッド（variational compression head）を利用しています。このアーキテクチャは、レイヤー 35 から隠れ状態（hidden states）を抽出し、それらを ReasoningCompressionHead と LatentDecoder を通じて処理した後、凍結された NVFP4 DeepSeek-V4-Flash-0731 バックボーンの残差ストリーム（residual stream）に書き戻すことで動作します。

コンポーネント仕様

  • Hidden Size: 4096
  • Latent Dimension: 1024
  • MLP Dimension: 2048
  • Source/Target Layers: 35 / 42
  • Activation: SiLU
  • Parameters: ヘッドとデコーダーは 35.7M float32 パラメータ（約 152 MB）で構成されています。
  • Stop Head: 推論フェーズの終了を決定するために、学習済みの stop head が使用されます。

デプロイメントとサービング

DeepSeek-V4 が MoE エキスパートをルーティングする仕組み（通常 prompt_embeds パスでは input_ids が null にされるため）により、標準の vLLM ではこのモデルをサービングすることができないため、カスタムフォークが必要です。

必要なインフラストラクチャ

  • ハードウェア: NVFP4 量子化と特定の sparse-MLA カーネルパスのため、Blackwell クラスのハードウェア (sm120) が必須です。
  • VRAM 要件:
    • 長いコンテキスト (256k) の場合は、≥ 192 GiB (例: 2× 96 GiB) が推奨されます。
    • 160–192 GiB でも動作可能ですが、MAX_MODEL_LEN を 32k–64k に減らす必要があります。
    • < 160 GiB では、NVFP4 重みのために不十分です。

サービングの実装

サービングは ds4-reasoning-addon と特定の vLLM フォーク (vllm-ds4-sm120) を通じて管理されます。システムは、ターゲット位置の embed_tokens 出力を上書きすることでデコードされた潜在変数を注入し、これにより、cudagraph ファストパスを維持しつつ、hash-MoE ルーティングのためのトークン ID を正常に流すことができます。

ランタイム構成とクライアントの使用法

クライアントの重要な要件

不適切な出力を避けるため、クライアントは chat_template_kwargs または特定のヘッダーを介して明示的に思考を要求する必要があります。

  • 必須パラメータ: extra_body={"chat_template_kwargs": {"thinking": True}} またはヘッダー x-ds4-thinking: 1。
  • トークン予算: 推論と回答は単一のトークン予算を共有します。ユーザーは、潜在フェーズが max_tokens 予算をすべて消費してしまい、回答が空になるのを防ぐため、高い MIN_OUTPUT_TOKENS (デフォルト 4096) を使用する必要があります。

サーバー環境変数

  • MAX_LATENT: 潜在ステップ数に対する安全な上限 (デフォルト 256)。
  • MIN_LATENT: 「思考なし」の回答を防ぐための潜在ステップ数の下限 (デフォルト 4)。
  • STOP_THRESHOLD: 学習済み stop head の閾値 (デフォルト 0.5)。
  • GPU_UTIL: 実用的な狭い範囲 (デフォルト 0.95)。

既知の制限事項

  • 不透明な推論: 推論が潜在空間で行われるため、出力テキストは内部計算のトークンレベルの記録ではなく、プロセスが解釈不能になります。
  • ウォームアップ期間: 起動直後の 1 つまたは 2 つのリクエストは、不適切な繰り返し（例: "be be be"）を生成することがあります。これは一時的な状態で、自動的に収束します。
  • ハードウェアの制約: モデルは sm120 (Blackwell) アーキテクチャに厳格に制限されています。

コミュニティの洞察

リリースに関する議論では、標準の DeepSeek-V4-Flash モデルとの直接的なベースライン比較が欠けてているため、潜在的な推論による正確な利得を定量化することが困難であるという懸念が示されました。さらに、一部のユーザーは、解読可能な chain-of-thought が失われることで、アライメントのリスクが生じる可能性があることに言及しました。潜在的な推論は、モデルの内部ロジックが人間の監査官にとって不可視であるためです。

Sources

関連