QVQ-72B-Preview リリース

Qwenは、複雑なマルチモーダル推論のために設計されたオープンウェイトモデルであるQVQ-72B-Previewを発表しました。Qwen2-VL-72Bを基盤とし、QVQ-72B-Previewは、特に高度な段階的推論を必要とする分野において、AIの視覚理解と分析的問題解決能力を向上させるように設計されています。

パフォーマンスベンチマーク

QVQ-72B-Previewは、前身であるQwen2-VL-72B-Instructと比較して、視覚的推論において顕著な改善を示しています。このモデルは、以下の4つの主要データセットで評価されました：

• MMMU: 大学レベルの多学際的マルチモーダル評価データセット。QVQ-72B-Previewはスコア70.3を達成し、Qwen2-VL-72B-Instructを大きく上回りました。
• MathVista: パズルグラフィック、関数グラフ、学術図をカバーする数学に焦点を当てた視覚的推論テストセット。
• MathVision: 実際の数学競技から導き出されたマルチモーダル数学的推論テストセット。
• OlympiadBench: 中国の大学入学試験を含む、オリンピックの数学・物理競技からの8,476問題を含むバイリンガルマルチモーダルサイエンスベンチマーク。

数学と科学のベンチマークにおいて、QVQ-72B-Previewは最先端のo1モデルとのパフォーマンスギャップを効果的に埋めています。

技術的能力と推論プロセス

QVQ-72B-Previewは、複雑な視覚タスクを解決するために体系的かつ段階的な推論アプローチを採用しています。デモケースは、さまざまな技術的課題に対処するその能力を示しています：

• Mathematics: モデルは導関数の積の法則を適用して表ベースの微積分問題を解き、円の公式を使用してグラフ化された関数の積分を評価できます。
• Physical Volume Calculation: モデルは複雑なL字型オブジェクトを直方体に分解し、重複する体積を考慮して総体積を計算できます。
• Chemistry: モデルは化学フローチャート（例：黄銅鉱からの銅抽出）を分析し、反応シーケンスに基づいて特定の化学物質を特定できます。
• Biology: モデルは遺伝子ダイアグラムを分析し、アレルの遺伝を評価することで、クラインフェルター症候群などの染色体異常の原因を特定できます。
• Geometry: モデルは座標幾何学と線形方程式を使用して、長方形内の特定の三角形内にランダムな点が落ちる確率を計算できます。

モデルの制限

実験的研究モデルとして、QVQ-72B-Previewにはいくつかの既知の制限があります：

• Language and Logic: モデルは予期しない言語混在、コードスイッチング、または結論に至らない冗長な応答を生む再帰的推論パターン（循環論理）に陥る可能性があります。
• Reliability: マルチステップ視覚的推論中、モデルは画像内容への焦点を失う可能性があり、これが幻覚を引き起こすことがあります。
• Functional Scope: Qwen2-VL-72B-Instructの機能を完全に置き換えることを意図していません。
• Safety: モデルは安全な展開のために強化された安全対策が必要です。

今後の開発

Qwenは、QVQを「omni and smart」モデルに進化させることを目指しています。今後の開発は、科学的探求と複雑な課題の解決における能力を向上させるため、追加のモダリティを統合した統一モデルに焦点を当てます。