Mistral AI、Ministral 3B および 8B エッジモデルをリリース

Mistral AI は、エッジコンピューティングおよびデバイス内での使用を最適化した、2つの新しい小型言語モデル（SLMs）である Ministral 3B と Ministral 8B のリリースを発表しました。これらのモデルは、知識、推論、関数呼び出しにおいて高いパフォーマンスを発揮する一方で、ローカルデプロイメントに必要な低レイテンシおよび効率性を維持することを目的としています。

技術仕様とアーキテクチャ

Ministral 3B および 8B は、最大 128k トークンのコンテキスト長をサポートしていますが、現在 vLLM では 32k までとなっています。パフォーマンスを最適化するために、Ministral 8B は特別なインタリーブドスライディングウィンドウアテンションパターンを使用しており、より高速かつメモリ効率の良い推論を可能にしています。

対象ユースケースとアプリケーション

Les Ministraux は、ローカルでプライバシーを最優先した推論と低レイテンシを必要とするシナリオ向けに設計されています。主な応用分野は以下の通りです：

• デバイス内コンピューティング： ローカル分析、インターネット接続なしのスマートアシスタント、自律ロボティクス。
• エッジ翻訳： デバイス内での翻訳サービス。
• エージェントワークフロー： Mistral Large などの大規模モデルと併用する際、関数呼び出し、入力パース、タスクルーティングの効率的な仲介者として活用。

パフォーマンスベンチマーク

Mistral AI によると、Ministral 3B および 8B は、10B未満のモデルクラスにおいて、常に競合他社を上回るパフォーマンスを発揮しています。同社の内部評価フレームワークによれば、最小のモデルである Ministral 3B は、ほとんどのベンチマークで元の Mistral 7B をすでに上回っています。

利用可能状況、価格、ライセンス

両モデルは API を通じて即時利用可能です。la Plateforme での価格は以下の通りです：

モデル	API エンドポイント	100万トークンあたりの価格（入力/出力）	ライセンス
Ministral 8B	ministral-8b-latest	$0.10	Mistral Commercial License / Mistral Research License
Ministral 3B	ministral-3b-latest	$0.04	Mistral Commercial License

セルフデプロイ用途の場合、商業ライセンスが必要です。Mistral AI は、特定のユースケース向けにパフォーマンスを最大化するためのロスレス量子化に関する支援も提供しています。Ministral 8B Instruct のモデル重みは研究用途で利用可能であり、両モデルはまもなくクラウドパートナーを通じて利用可能になります。