Voxtral 3: Mistralの新しい音声エージェントSDKと最先端の音声モデル

Voxtral 3は、最先端の音声認識(STT)および音声合成(TTS)モデルの新しいファミリーであり、音声エージェントSDKと組み合わされています。これは、リアルタイムで聞き取り、推論し、対話し、多段階のワークフローを処理できる、信頼性の高いエンドツーエンドの音声エージェントを構築するという複雑な課題を解決するために設計されました。

このスイートにより、組織はコンタクトセンターのエージェントからハンズフリーの副操縦士まで、自然な会話体験を構築できます。同時に、MistralのEUホスト型APIまたはプライベートインフラストラクチャへのデプロイオプションを通じて、データの主権を維持することが可能です。

Voxtral 3の主要機能

Voxtral 3は、信頼性の高い音声エージェントに不可欠な4つの要件(正確な聞き取り、深い文脈的推論、自然な音声生成、多段階のアクション実行)に対応しています。

多言語対応と正確な文字起こし

Voxtral Small Transcribe 3モデルは、24のEU公用語や多数のリソースが少ないアジアおよびインドの言語を含む、50以上の言語をサポートする最先端の多言語文字起こしを提供します。主な機能は以下の通りです。

  • 話者分離(ダイアライゼーション): モデルは誰がいつ話したかを正確に識別し、複数人の会話における混乱を最小限に抑えます。
  • コンテキストバイアス: ユーザーは重要な用語や自由形式のテキストを提供して文字起こしにバイアスをかけることができ、モデルのファインチューニングなしでドメイン固有の語彙の再現率を大幅に向上させます。
  • ターン終了検出: 話者が話し終えたタイミングをネイティブに検出するため、エージェントは低遅延で応答でき、誤った遮断率を最小限に抑えられます。

リアルタイムのエージェントユースケース向けに、Voxtral Mini Transcribe Realtime 3は、35以上の言語で500ms未満の遅延で高品質な文字起こしを実現し、話者分離とコンテキストバイアスもサポートしています。

表現力豊かで適応性の高い音声生成

Voxtral Mini TTS 3モデルは、35以上の言語と50以上の方言にわたり、最先端の表現力と指示追従能力を提供します。このモデルの自然さは、テキストの文脈のセマンティックな意味を暗黙的に解釈し、適切な感情や声のスタイルを決定する能力に由来しています。

TTSモデルの主な機能は以下の通りです。

  • 感情的適応性: 会話の文脈に基づいて、声の感情、ペース、強調が調整されます。
  • ボイスクローニング: Voxtral Pro Voiceアダプテーションは、わずか30分の音声を使用して、話者の際立った特徴、感情の範囲、話し方を言語を超えて再現できます。
  • コスト効率: このモデルは100万文字あたり13ドルという価格設定であり、資料によるとこれはOpenAI TTS-1、Deepgram、ElevenLabs Flash、Gemini Flashといった競合モデルよりも安価です。

リアルタイム音声エージェントパイプライン

Voxtral 3音声エージェントSDKは、会話フロー全体を単一のリアルタイムストリーミングパイプラインに統合し、ターン間の遅延を最小限に抑えます。

エージェントワークフローと遅延

エージェントは、個別のモデルを連鎖させることで動作します。Voxtral Mini Transcribe Realtime 3が聞き取りと発話終了の検出を行い、汎用LLM(Mistral Smallなど)が推論とツール呼び出しを行い、Voxtral Speech 3が会話のトーンに合わせて返答します。各段階が前の段階の終了を待たないため、各ターンは1秒未満で完了し、発信者が割り込んだ場合はエージェントは即座に発話を停止します。

このアーキテクチャにより、エージェントは関数呼び出し、ウェブ検索、ユーザーのプライベートシステムに対する検索を活用することで、本人確認、請求書の確認、予約の受付といった複雑なタスクをライブ会話中に行うことができます。

デプロイメントとデータ主権

Voxtral 3は主権的なデプロイメントを想定して設計されており、組織は音声がどこで処理され、データがどのように扱われるかを制御できます。モデルはMistralのEUホスト型APIを通じて利用できるほか、組織自身のインフラストラクチャに自己デプロイすることも可能です。この機能は、厳格なデータ管理を必要とする企業にとって大きな魅力です。

パフォーマンスと市場の洞察

Voxtral 3は、特に多言語およびリアルタイムのシナリオにおいて、いくつかの業界ベンチマークで競争力のあるパフォーマンスを示しています。

ベンチマークパフォーマンス

  • 文字起こし: Voxtral Small Transcribe 3は、多言語文字起こしおよび話者分離のベンチマークにおいて、Whisper、Scribe v2、Gemini 3.5 Transcribeを上回ります。
  • リアルタイム文字起こし: Voxtral Mini Transcribe Realtime 3は、リアルタイム単語誤り率(WER)のFLEURS 35ベンチマークに対して評価されています。
  • TTS品質: 内部評価によると、Voxtral TTSはVoice Code Bench(数字や固有の名前の処理)や発音制御などの指標において、高いコストパフォーマンスを維持しています。

コミュニティの議論とユースケース

コミュニティのフィードバックでは、現在のAI音声技術の高度な機能と実用的な限界の両方が強調されています。

  • 企業統合: このSDKは、複雑なカスタマーサービスワークフローを自動化するために非常に価値があると考えられています。あるユーザーは、エージェントが企業のイントラネットと直接対話し、支払い承認のようなリクエストを処理できる可能性を指摘しました。
  • 主権対オープン性: 議論の中で繰り返し現れるテーマは、データ主権の必要性(Voxtral 3が対応している)とオープンソースモデルへの好みとの間の緊張関係であり、モデルがクローズドであることに失望を表明するユーザーもいました。
  • 音声品質の認識: 一部のユーザーは音声品質の変化を感じており、新しく表現力豊かになった声が、古いバージョンと比較してより人工的に聞こえるという意見もありました。

価格と可用性

Voxtral 3は現在、Mistral APIを通じて利用可能です。価格はモデルと使用タイプによって異なります。

モデル 使用タイプ 価格
Voxtral Mini Transcribe 3 バッチ $0.0035/分
Voxtral Mini Transcribe Realtime 3 リアルタイム $0.008/分
Voxtral Small Transcribe 3 バッチ $0.0040/分
Voxtral Speech 3 バッチおよびリアルタイム $13/100万文字

Sources

関連

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch