GPT-4o mini リリースノート / 新機能

OpenAIは、コスト効率の高い小型モデルである GPT-4o mini を導入しました。このモデルは、高性能AIをより手頃でアクセスしやすくすることを目的としています。GPT-3.5 Turbo の代替として位置付けられ、はるかに低価格で優れたテキストインテリジェンスとマルチモーダル推論を提供します。

技術仕様と機能

GPT-4o mini は、APIでテキストとビジョンをサポートするマルチモーダルモデルで、将来的には画像、動画、音声の入力と出力のサポートが計画されています。128K トークンのコンテキストウィンドウを備え、1リクエストあたり最大 16K の出力トークンをサポートします。モデルの知識カットオフは 2023年10月です。

主な技術的利点は次のとおりです:

  • Improved Tokenizer: GPT-4o と共有されているこのトークナイザーは、非英語テキストの処理をよりコスト効率的にします。
  • Long-Context Performance: GPT-3.5 Turbo と比較して、長文コンテキストシナリオでのパフォーマンスが向上しています。
  • Function Calling: 関数呼び出しにおける高いパフォーマンスにより、開発者は外部システムと連携してデータ取得やアクション実行を行うアプリケーションを構築できます。

パフォーマンスベンチマーク

GPT-4o mini は、いくつかの学術ベンチマークにおいて GPT-3.5 Turbo や他の小型モデルを上回ります。

推論とテキストインテリジェンス

GPT-4o mini は MMLU で 82.0% のスコアを獲得し、Gemini Flash(77.9%)と Claude Haiku(73.8%)を上回りました。

数学とコーディング

  • MGSM(数学推論): GPT-4o mini は 87.0% のスコアを獲得し、Gemini Flash は 75.5%、Claude Haiku は 71.7% でした。
  • HumanEval(コーディング): GPT-4o mini は 87.2% のスコアを獲得し、Gemini Flash は 71.5%、Claude Haiku は 75.9% でした。

マルチモーダル推論

MMMU ベンチマークでは、GPT-4o mini が 59.4% のスコアで、Gemini Flash(56.1%)と Claude Haiku(50.2%)を上回りました。

コストと利用可能性

GPT-4o mini は、従来の最先端モデルに比べて桁違いに安価で、GPT-3.5 Turbo よりも 60%以上 安くなっています。価格は、入力トークン 100 万件あたり 15 セント、出力トークン 100 万件あたり 60 セントに設定されています。

利用可能性:

  • API: Assistants API、Chat Completions API、Batch API で利用可能です。
  • ChatGPT: 無料、Plus、Team ユーザーはすぐに利用でき、Enterprise ユーザーは来週からアクセス可能になります。
  • Fine-tuning: 今後数日以内にロールアウト予定です。

安全性とセキュリティ

安全性は、事前学習フィルタ(ヘイトスピーチ、成人向けコンテンツ、スパムの除去)と、ヒューマンフィードバックによる強化学習(RLHF)を用いた事後学習アラインメントを通じて、開発プロセスに統合されています。

GPT-4o miniinstruction hierarchy 手法を適用した初のモデルであり、この手法によりモデルのジャイルブレイク、プロンプトインジェクション、システムプロンプト抽出への耐性が向上し、大規模アプリケーションでの信頼性が高まります。

ユースケースと産業への応用

低コストと低レイテンシにより、GPT-4o mini は複数のモデル呼び出しをチェーンまたは並列化したり、大量のコンテキスト(例えばフルコードベース)を渡したり、リアルタイムのカスタマーサポートチャットボットを提供したりするアプリケーションに適しています。Ramp や Superhuman といったパートナーは、領収書からの構造化データ抽出やスレッド履歴に基づく高品質なメール返信生成において、GPT-3.5 Turbo よりもはるかに優れた性能を示すことを確認しています。

Sources