Mistral AI La Plateforme リリース

Mistral AIは、開発者に3つの生成チャットエンドポイントと1つの埋め込みモデルへのアクセスを提供するベータ版APIサービス、La Plateformeをリリースしました。このリリースにより、Mistral AIのオープンな生成モデルを本番環境向けに効率的にデプロイおよびカスタマイズすることが可能になります。

Generative Model Endpoints

Mistral AIは、テキスト指示に基づいてテキストを生成するための3つのチャットエンドポイントを提供しており、それぞれパフォーマンスとコストのバランスが異なります。

Mistral-tiny

Mistral-tinyは、最もコスト効率の高いエンドポイントです。現在は、Mistral 7B Instruct v0.2（Mistral 7B Instructモデルのマイナーリリース）を提供しています。このエンドポイントは英語に限定されており、MT-Benchで7.6のスコアを獲得しています。

Mistral-small

Mistral-smallは、Mixtral 8x7Bモデルを提供しています。このモデルは、英語、フランス語、イタリア語、ドイツ語、スペイン語、およびコードをサポートしています。MT-Benchで8.3のスコアを獲得しています。

Mistral-medium

Mistral-mediumは、最高品質のエンドポイントであり、標準的なベンチマークに基づきトップクラスのモデルとしてランク付けされるプロトタイプモデルを提供しています。Mistral-smallと同様に、英語、フランス語、イタリア語、ドイツ語、スペイン語、およびコードをサポートしています。MT-Benchで8.6のスコアを獲得しています。

Embedding Capabilities

Mistral AIは、検索機能に特化して設計された埋め込みモデルを提供するMistral-embedエンドポイントを導入しました。このモデルは1024の埋め込み次元を持ち、MTEBで55.26の検索スコアを獲得しています。

API Specifications and Integration

La PlateformeのAPIは、開発者の移行を容易にするために、一般的なチャットインターフェースの仕様に従っています。統合をサポートするために、Mistral AIはPythonとJavascriptのクライアントライブラリを提供しています。APIでは、特定のアプリケーション要件に合わせて、モデルの出力に対してより高度なモデレーションを実装するためにシステムプロンプトを使用することができます。

Technical Implementation and Alignment

La Plateformeで提供されるモデルは、Mistral AIのベースモデルの指示学習済みバージョンであり、これらはオープンなWebデータで事前学習され、その後アノテーションによる指示微調整（instruction fine-tuning）が行われます。アライメントプロセスでは、効率的な微調整とDirect Preference Optimization (DPO)を組み合わせて使用することで、モデルの制御のしやすさと使い心地の良さを確保しています。

Availability and Infrastructure

La Plateformeは現在ベータ版アクセス期間中であり、容量が段階的に拡大されるにつれて、すべてのユーザーに登録が開放されています。Mistral AIは、TensorRT-LLMとTritonの統合、特にsparse mixture of experts (MoE)をTRT-LLMと互換性を持たせることにおけるNVIDIAのサポートに謝意を表しています。