Mistral Large と Mistral Small のリリース

Mistral AI は、同社史上最も高度な言語モデルである Mistral Large と、コストとレイテンシに最適化されたモデルである Mistral Small のリリースを発表しました。Mistral Large は、複雑な多言語推論、テキスト理解、およびコード生成が可能なフラッグシップモデルとして位置付けられており、APIを通じて一般的に利用可能なモデルの中で、GPT-4 に次ぐ第2位の性能を誇ります。

Mistral Large の技術的能力

Mistral Large は高度な推論タスク向けに設計されており、以前のモデルと比較していくつかの主要な技術的強化を提供します：

多言語の流暢さ: このモデルは、英語、フランス語、スペイン語、ドイツ語、イタリア語においてネイティブレベルで流暢であり、文化的文脈や文法の微妙なニュアンスを理解しています。
コンテキストウィンドウ: 32K トークンのコンテキストウィンドウを備えており、大規模なドキュメントからの正確な情報検索を可能にします。
指示への追従性: モデルの正確な指示追従能力により、開発者はカスタムのモデレーションポリシーを実装できます。Mistral AI はこの機能を使用して le Chat のシステムレベルのモデレーションを確立しました。
関数呼び出し (Function Calling): Mistral Large はネイティブで関数呼び出しが可能です。これは、制約付き出力モードと組み合わせることで、大規模なアプリケーション開発や技術スタックの近代化をサポートします。

パフォーマンス・ベンチマーク

Mistral Large は、推論、知識、およびコーディングのベンチマークにおいて強力なパフォーマンスを示しています：

一般的な推論: MMLU (Measuring massive multitask language understanding) ベンチマークにおいて、Mistral Large (pre-trained) は GPT-4、Claude 2、Gemini Pro 1.0、GPT 3.5、および LLaMA 2 70B と比較されています。
多言語パフォーマンス: このモデルは、HellaSwag、Arc Challenge、および MMLU ベンチマークにおいて、特にフランス語、ドイツ語、スペイン語、イタリア語で LLaMA 2 70B を大幅に上回っています。
数学とコーディング: Mistral Large は、HumanEval pass@1、MBPP pass@1、Math maj@4、および GSM8K (maj@8 および maj@1) を含む一般的なベンチマークでトップクラスのパフォーマンスを示しています。

Mistral Small とエンドポイントの更新

フラッグシップモデルと並んで、Mistral AI は、オープンウェイトモデルと Mistral Large の中間的なソリューションである Mistral Small を導入しました。Mistral Small は低レイテンシのワークロード向けに最適化されており、Mixtral 8x7B を上回る性能を発揮します。

Mistral Small は、Mistral Large と同様の RAG 対応および関数呼び出しの革新技術を継承しています。更新されたエンドポイントの提供内容は以下の通りです：

最適化されたエンドポイント: mistral-small-2402 および mistral-large-2402。
オープンウェイト・エンドポイント: open-mistral-7B および open-mixtral-8x7b。
レガシー・エンドポイント: mistral-medium は引き続き利用可能ですが、更新は行われません。

開発者ツール: JSON モードと関数呼び出し

プロダクション・パイプラインへの統合を改善するため、Mistral AI は JSON フォーマットモードと関数呼び出しを導入しました。JSON フォーマットモードは、モデルに有効な JSON を出力させることを強制し、構造化データの抽出を可能にします。関数呼び出しは、開発者が Mistral のエンドポイントを内部 API、データベース、またはコードと連携させることを可能にします。

現在、これらの機能は mistral-small および mistral-large モデルでのみ利用可能です。

デプロイメントと可用性

Mistral AI のモデルは、主に以下の 3 つのチャネルを通じて利用可能です：

la Plateforme: Mistral の欧州インフラストラクチャ上でホストされています。
Azure: Mistral Large は Azure AI Studio および Azure Machine Learning を通じて利用可能です。
自己デプロイメント: モデルのウェイトは、プライベート環境でのデプロイメントを必要とする機密性の高いユースケース向けに利用可能です。