NVIDIA Nemotron 3.5 Content Safety リリース

TL;DR

NVIDIAは、マルチモーダル入力、多言語対応、カスタム企業ポリシーの適用、および監査可能な推論を単一の推論コールで統合する、4Bパラメータの単一モデル「Nemotron 3.5 Content Safety」を発表しました。

統合されたマルチモーダル評価

Nemotron 3.5は、ユーザーのプロンプト、オプションの画像、およびオプションのアシスタントの回答を単一のコンテキストウィンドウとしてまとめて評価し、結合された入力に対して一貫した安全性判定を下します。 この共同評価により、各モダリティを個別にスコアリングした場合には見逃されてしまう、テキストと画像の間、あるいはリクエストと回答の間の相互作用からのみ発生するポリシー違反のギャップを埋めることができます。

グローバルな言語カバー率

Nemotron 3.5は、英語、フランス語、スペイン語、ドイツ語、中国語、日本語、韓国語、アラビア語、ヒンディー語、ロシア語、ポルトガル語、イタリア語の12言語について明示的なトレーニングを維持しつつ、Gemma 3 ベースモデルから継承した約140の追加言語にわたるゼロショット汎化機能を備えています。 低リソース市場での展開は、個別のファインチューニングを必要とせずに、この転移学習の恩恵を受けることができます。

カスタムポリシーの適用

このモデルは、入力とともにカスタムポリシーの仕様を受け取り、組み込みのタクソノミーだけに頼るのではなく、判定を下す際にそのポリシーに基づいて推論を行います。 これにより、企業は無関係なカテゴリを抑制したり、独自のりスクカテゴリを注入したり、ヘルスケア、金融、または子供向けアプリなどのドメイン固有のルールに合わせて安全な動作を適応させたりすることが可能になります。

推論トレース (THINK Mode)

THINKモードが有効な場合、Nemotron 3.5は、最終的な safe/unsafe ラベルとオプションの違反カテゴリを提示する前に、ステップバイステップの推論トレースを出力します。 推論トレースの例は以下の通りです：

[step-by-step reasoning trace]

User Safety: unsafe
Response Safety: unsafe
Safety Categories: Criminal Planning/Confessions, Controlled Substances

レイテンシが重要な場合は、THINKモードを無効にすることで、Nemotron 3 で利用可能なものと同じ低レイテンシのバイナリ判定に戻すことができます。

安全性データセット

NVIDIAは、マルチモーダルかつ多言語に対応し、モデルのトレーニングに使用された安全性推論トレースを含む「Nemotron 3.5 Content Safety Dataset」をリリースします。 このデータセットは、実際の写真を用いたマルチモーダルデータ、多言語のテキスト安全性データ、安全なVLMデータ、大規模な教師モデルから派生した推論トレース、トピック追従データ、およびジェイルブレイクの多様化のための少量の合成データを組み合わせています。

モデルアーキテクチャ

Nemotron 3.5 Content Safetyは、128Kのコンテキストウィンドウ、強力な視覚言語推論、および広範な多言語カバー率を備えた Google Gemma 3 4B IT (4B parameters) に基づいて構築されています。 LoRAアダプターによってベースモデルをファインチューニングし、モデルをコンパクトに保ったまま、8GB以上のVRAMを搭載したGPUでのリアルタイム展開に適したターゲットを絞った安全性分類動作を実装しています。 このモデルは、低レイテンシのバイナリ判定、カテゴリ付きバイナリ判定、およびTHINKモード（推論 + 判定）の3つの出力モードをサポートしています。

推論

推論は、特に規制された環境におけるプロダクションAIシステムに必要とされるコンテキスト、カスタマイズ性、および説明責任を提供します。 これにより、カスタムポリシーの動的な解釈が可能になり、コンプライアンスログや人間によるレビューのための監査可能な正当性が提供され、ポリシーの反復に役立つエッジケースの解釈が明らかになります。 推論トレースを簡潔な要約に凝縮することで、出力トークンを制限し、効率を維持します。これは Nemotron Content Safety Reasoning 4B モデルから引き継がれた技術です。

レイテンシ

デフォルト（THINKなし）モードでは、レイテンシは Nemotron 3 から変更されていません。 THINKモードを有効にすると、トレースの長さに比例して推論時間が増加しますが、このオーバーヘッドは予測可能であり、例えば、デフォルトモードがリアルタイムの決定を処理している間に、監査パイプラインで非同期にTHINKモードの評価を実行するなど、個別に予算を割り当てることが可能です。 別のマルチモーダル安全性モデルと比較して、Nemotron 3.5はマルチモーダルベンチマークにおいてエンドツーエンドのレイテンシを3倍低減し、推論が有効な場合には最大50%少ないトークンを生成します。

ベンチマークのギャップへの対処

既存のマルチモーダル安全性ベンチマークは、テキストのみのカバー範囲、実世界の質感に欠ける合成画像（通常は SDXL）への依存、および実際の写真の再配布を妨げるライセンス制限という課題を抱えています。 これらのギャップは、ベンチマーク結果が実際の運用における難易度を反映していない可能性があることを意味します。 NVIDIAのトレーニングデータは、モデルトレーニングにおけるこれらのギャップを軽減するために、実際の画像と文化的にニュアンスのある多言語プロンプトを使用していますが、評価のギャップは広範な安全性研究コミュニティにとって未解決の問題として残っています。

はじめに

Nemotron 3.5 Content Safety は、研究および商用利用のために NVIDIA Open Model License の下で、トレーニングデータとともに Hugging Face で入手可能です。 Transformers、vLLM、SGLang をサポートしており、build.nvidia.com 上のプロダクショングレードの NVIDIA NIM (nvcr.io/nim/nvidia/nemotron-3.5-content-safety:2.0.5-variant) として提供されています。 また、Baseten、Eigen AI、DeepInfra、OpenRouter、Vultr を含む推論プラットフォーム経由でもアクセス可能です。 カスタムポリシーのワークフローについては、NVIDIA はカスタムポリシーを生成するための Claude および Codex 互換のスキルと、モデルの使用方法を示すクックブックを提供しています。