GPT-4o mini リリースノート / 新機能
OpenAIは、コスト効率の高い小型モデルである GPT-4o mini を導入しました。このモデルは、高性能AIをより手頃でアクセスしやすくすることを目的としています。GPT-3.5 Turbo の代替として位置付けられ、はるかに低価格で優れたテキストインテリジェンスとマルチモーダル推論を提供します。
技術仕様と機能
GPT-4o mini は、APIでテキストとビジョンをサポートするマルチモーダルモデルで、将来的には画像、動画、音声の入力と出力のサポートが計画されています。128K トークンのコンテキストウィンドウを備え、1リクエストあたり最大 16K の出力トークンをサポートします。モデルの知識カットオフは 2023年10月です。
主な技術的利点は次のとおりです:
- Improved Tokenizer:
GPT-4oと共有されているこのトークナイザーは、非英語テキストの処理をよりコスト効率的にします。 - Long-Context Performance:
GPT-3.5 Turboと比較して、長文コンテキストシナリオでのパフォーマンスが向上しています。 - Function Calling: 関数呼び出しにおける高いパフォーマンスにより、開発者は外部システムと連携してデータ取得やアクション実行を行うアプリケーションを構築できます。
パフォーマンスベンチマーク
GPT-4o mini は、いくつかの学術ベンチマークにおいて GPT-3.5 Turbo や他の小型モデルを上回ります。
推論とテキストインテリジェンス
GPT-4o mini は MMLU で 82.0% のスコアを獲得し、Gemini Flash(77.9%)と Claude Haiku(73.8%)を上回りました。
数学とコーディング
- MGSM(数学推論):
GPT-4o miniは 87.0% のスコアを獲得し、Gemini Flash は 75.5%、Claude Haiku は 71.7% でした。 - HumanEval(コーディング):
GPT-4o miniは 87.2% のスコアを獲得し、Gemini Flash は 71.5%、Claude Haiku は 75.9% でした。
マルチモーダル推論
MMMU ベンチマークでは、GPT-4o mini が 59.4% のスコアで、Gemini Flash(56.1%)と Claude Haiku(50.2%)を上回りました。
コストと利用可能性
GPT-4o mini は、従来の最先端モデルに比べて桁違いに安価で、GPT-3.5 Turbo よりも 60%以上 安くなっています。価格は、入力トークン 100 万件あたり 15 セント、出力トークン 100 万件あたり 60 セントに設定されています。
利用可能性:
- API: Assistants API、Chat Completions API、Batch API で利用可能です。
- ChatGPT: 無料、Plus、Team ユーザーはすぐに利用でき、Enterprise ユーザーは来週からアクセス可能になります。
- Fine-tuning: 今後数日以内にロールアウト予定です。
安全性とセキュリティ
安全性は、事前学習フィルタ(ヘイトスピーチ、成人向けコンテンツ、スパムの除去)と、ヒューマンフィードバックによる強化学習(RLHF)を用いた事後学習アラインメントを通じて、開発プロセスに統合されています。
GPT-4o mini は instruction hierarchy 手法を適用した初のモデルであり、この手法によりモデルのジャイルブレイク、プロンプトインジェクション、システムプロンプト抽出への耐性が向上し、大規模アプリケーションでの信頼性が高まります。
ユースケースと産業への応用
低コストと低レイテンシにより、GPT-4o mini は複数のモデル呼び出しをチェーンまたは並列化したり、大量のコンテキスト(例えばフルコードベース)を渡したり、リアルタイムのカスタマーサポートチャットボットを提供したりするアプリケーションに適しています。Ramp や Superhuman といったパートナーは、領収書からの構造化データ抽出やスレッド履歴に基づく高品質なメール返信生成において、GPT-3.5 Turbo よりもはるかに優れた性能を示すことを確認しています。