Qwen3Guard リリース：LLM のリアルタイム安全ガードレール

Qwen は Qwen3Guard をリリースしました。これは Qwen エコシステム内で初の安全ガードレールモデルファミリーです。Qwen3 基盤モデル上に構築され、安全分類のためにファインチューニングされた Qwen3Guard は、ユーザーのプロンプトとモデルの応答の両方におけるリスクを正確に検出し、リスクレベルとカテゴリ分類を割り当てて、正確なコンテンツモデレーションを支援します。

リアルタイムストリーミング安全検出

Qwen3Guard-Stream は、トークン生成プロセス中に低遅延でオンザフライのモデレーションを可能にします。テキストが完全に生成された後に評価する従来のガードモデルとは異なり、Qwen3Guard-Stream はトランスフォーマーの最終層に付随する 2 つの軽量分類ヘッドを利用します。このアーキテクチャにより、モデルは生成される応答をトークン単位で処理し、各ステップで即座に安全分類を出力して、応答性を犠牲にせず安全性を確保します。

モデルバリアントとデプロイオプション

Qwen3Guard は 2 つの専門バリアントで提供され、0.6B、4B、8B のパラメータサイズで利用可能です。これにより、さまざまなリソース制約に対応できます。

  • Qwen3Guard-Gen：完全なユーザープロンプトとモデル応答を受け取るよう設計された生成モデルです。オフラインの安全アノテーション、データセットフィルタリング、強化学習（RL）向けの安全ベースの報酬提供に最適化されています。
  • Qwen3Guard-Stream：応答生成中のリアルタイムストリーミング安全検出に特化したモデルです。

3 段階の重大度分類

二値の「Safe」または「Unsafe」ラベルよりも柔軟性を提供するため、Qwen3Guard は Controversial ラベルを導入します。この 3 段階システムにより、開発者は特定のユースケースに基づいた動的な安全ポリシーを実装できます。

  • Strict Mode：Controversial なケースを Unsafe に再分類できます。
  • Loose Mode：Controversial なケースを Safe に再分類できます。

この設計により、Qwen3Guard は二値ラベリングの制約下で対立しがちなさまざまなデータセット基準に対しても堅牢なパフォーマンスを維持できます。

多言語サポートとグローバルリーチ

Qwen3Guard は 119 の言語と方言 をサポートし、多様な言語環境で一貫した安全性能を保証します。サポート対象の言語ファミリーは以下の通りです：

  • Indo-European：英語、スペイン語、フランス語、ドイツ語、ロシア語、ヒンディー語、ベンガル語など。
  • Sino-Tibetan：簡体字中国語、繁体字中国語、広東語、ビルマ語など。
  • Afro-Asiatic：さまざまなアラビア語方言とヘブライ語など。
  • Austronesian：インドネシア語、マレー語、タガログ語など。
  • Dravidian：タミル語、テルグ語、カンナダ語、マラヤーラム語など。
  • Turkic：トルコ語、カザフ語、ウズベク語など。
  • Tai-Kadai：タイ語とラオ語。
  • Uralic：フィンランド語、エストニア語、ハンガリー語。
  • Austroasiatic：ベトナム語とクメール語。
  • Other：日本語、韓国語、ジョージア語、スワヒリ語など。

技術的実装と応用

Qwen3Guard-Gen ワークフロー

Qwen3Guard-Gen は安全分類に最適化されたチャットテンプレートを使用します。安全ラベル（Safe、Unsafe、または Controversial）と具体的なリスクカテゴリ（例：暴力、個人情報、性的コンテンツ、著作権侵害）を特定する構造化された出力を生成します。応答のモデレーションにおいては、モデルが拒否したかどうかも識別します。

Qwen3Guard-Stream ワークフロー

Qwen3Guard-Stream は 2 段階のプロセスで動作します：

  1. Prompt-Level Check：ユーザーの入力が即座に評価されます。プロンプトが unsafe と判断された場合、LLM が応答生成を開始する前に会話を停止できます。
  2. Token-Level Moderation：会話が続行される場合、LLM が生成する各トークンがリアルタイムで Qwen3Guard-Stream に転送され、生成プロセス全体で動的なリスク緩和が可能になります。

高度なユースケース

直接的なモデレーション以外にも、Qwen3Guard は以下の用途で使用されます：

  • Safety RL：Qwen3Guard-Gen を使用して、モデルの安全性を向上させつつ有用性を維持します。
  • On-the-fly Intervention：Qwen3Guard-Stream を使用して、基盤モデルを再学習させることなく安全な出力を確保します。

Sources