OpenAI モデル蒸留 API 統合

OpenAI は、蒸留パイプライン全体（データセット生成、評価、ファインチューニング）を OpenAI プラットフォームに直接統合した Model Distillation スイートを開始しました。これにより、開発者は高性能なフロンティアモデル（例: o1-preview や GPT-4o）を教師として使用し、特定のタスクにおいてコスト効率の高いモデル（例: GPT-4o mini）の性能を向上させることができます。

モデル蒸留ワークフロー

モデル蒸留とは、より高性能な「教師」モデルの出力を利用して、より小さくコスト効率の高いモデルをファインチューニングするプロセスです。目的は、特定のタスクにおいて小型モデルが高度なモデルと同等の性能を発揮しつつ、運用コストを低く抑えることです。

従来、このプロセスは複数ステップの反復的な作業であり、開発者はデータセット生成、ファインチューニング、性能測定のために、互いに接続されていないツールを手動で調整する必要がありました。新しい統合スイートは、3 つの主要コンポーネントを提供することでこれを簡素化します。

Stored Completions

Stored Completions は、開発者が API を通じて GPT-4o や o1-preview などのモデルが生成する入力‑出力ペアを自動的に取得・保存できるようにします。これにより、実際のプロダクションデータを使用した蒸留データセットの作成が可能となり、モデルの評価やファインチューニングに利用できます。

Evals (Beta)

Evals はベータ機能で、特定タスクにおけるモデル性能を測定する統合的な方法を提供します。開発者は Stored Completions のデータまたはアップロードしたデータセットを使用して、カスタム評価を作成・実行できます。Evals はファインチューニングプロセスとは独立して、特定のユースケースに対するモデル性能を定量的に評価するために使用できます。

Integrated Fine-tuning

Stored Completions と Evals は、OpenAI の既存のファインチューニング機能と完全に統合されています。開発者は Stored Completions で生成されたデータセットをファインチューニングジョブに使用し、さらに Evals を活用して、得られたファインチューニング済みモデルの性能評価を単一のプラットフォームエコシステム内で実行できます。