OpenAI ファインチューニング API の改善とカスタムモデルプログラムの拡張

OpenAI は、自己サービス型ファインチューニング API にいくつかの機能を導入し、開発者がトレーニングジョブやモデル評価をより細かく制御できるようにしました。これらの更新は、開発者がレイテンシを削減し、精度を向上させ、特定のタスク向けにモデルを最適化することでコストを下げることを目的としています。

新しいファインチューニング API 機能

主な技術的改善点は次のとおりです:

  • エポックベースのチェックポイント作成: API は各トレーニングエポックごとに自動的に 1 つの完全なファインチューニング済みモデルチェックポイントを生成します。これにより、特に過学習に対処する際の再トレーニングの必要性が減少します。
  • 比較プレイグラウンド: 新しいサイドバイサイド UI により、開発者は複数のモデルやファインチューニングスナップショットの出力を単一のプロンプトに対して比較し、人間評価を実施できます。
  • サードパーティ統合: Weights and Biases をはじめとするサードパーティプラットフォームのサポートが追加され、開発者は詳細なファインチューニングデータを既存の技術スタックに統合できるようになりました。
  • 包括的な検証指標: 開発者は、サンプリングされたバッチに依存するのではなく、検証データセット全体に対して損失と精度の指標を計算でき、モデル品質をより正確に把握できます。
  • ハイパーパラメータ設定: ハイパーパラメータはダッシュボードから直接設定できるようになり、API や SDK のみを使用する必要がなくなりました。
  • ダッシュボードの改善: ファインチューニングダッシュボードは、以前の設定からジョブを再実行したり、より詳細なトレーニング指標を表示したりできるようになりました。

ケーススタディ: Indeed

Indeed は GPT-3.5 Turbo のファインチューニング API を利用して、パーソナライズされた求人推薦を生成しました。モデルをファインチューニングして説明の品質を向上させることで、Indeed はプロンプトトークンを 80% 削減し、月間メッセージ数を 100 万未満から約 2000 万にスケールさせることができました。

拡張されたカスタムモデルプログラム

自己サービス型 API では対応できないニーズを持つ組織向けに、OpenAI はカスタムモデルプログラムを拡張しました。このプログラムでは、OpenAI の研究者と直接協力し、先進的な手法を用いて特定ドメイン向けにモデルを最適化できます。

支援付きファインチューニング

支援付きファインチューニングは、標準 API を超える手法を用いた共同提供であり、スケールでの高度なハイパーパラメータやさまざまなパラメータ効率的ファインチューニング(PEFT)手法を含みます。このサービスは、効率的なトレーニングデータパイプライン、評価システム、カスタムパラメータの構築に支援が必要な組織向けに設計されています。

例: SK テレコム

SK テレコムは OpenAI と協力し、韓国語の通信分野向けに GPT-4 をファインチューニングしました。この協業により、以下の成果が得られました:

  • 会話要約品質が 35% 向上。
  • 意図認識精度が 33% 向上。
  • 顧客満足度スコアが 3.6 から 4.5(5 満点)に上昇、ベースの GPT-4 モデルと比較して。

カスタムトレーニングモデル

何百万件もの例や数十億トークンの大規模な独自データセットを持つ組織向けに、OpenAI は完全にカスタムトレーニングされたモデルを提供します。これらのモデルは、独自の中間トレーニングや事後トレーニング手法を通じてモデルのトレーニングプロセスを変更し、深いドメイン知識をモデルに組み込むことで、ゼロから構築されます。

例: Harvey

Harvey は法務 AI ツールで、OpenAI と提携して判例向けのカスタムトレーニングモデルを作成しました。プロンプトエンジニアリングと RAG だけでは必要な法的歴史の深さが不足していると判断し、Harvey は 100 億トークン相当のデータを統合しました。OpenAI はトレーニングプロセスを変更し、ドメイン固有の中間トレーニングや専門弁護士のフィードバックを組み込みました。その結果、以下が実現しました:

  • 事実回答が 83% 向上。
  • カスタマイズモデルの出力が弁護士間で GPT-4 より 97% 好まれる。

プラットフォームステータスの更新

2026年5月8日現在、OpenAI はファインチューニングプラットフォームの提供を段階的に終了しています。新規ユーザーはプラットフォームにアクセスできなくなりますが、既存ユーザーは数か月間トレーニングジョブを作成し続けることが可能です。すべてのファインチューニング済みモデルは、対応するベースモデルが廃止されるまで推論に利用可能です。

Sources