GPT-3.5 Turbo ファインチューニングとAPIアップデート

OpenAIはGPT-3.5 Turboのファインチューニングを開始し、開発者が特定のユースケース向けにモデルをカスタマイズし、より高いパフォーマンスとスケーラビリティを達成できるようにしました。このアップデートは重要であり、ファインチューニングされたGPT-3.5 Turboモデルが特定の狭いタスクにおいてベースのGPT-4モデルの能力に匹敵したりそれを上回ったりできるからです。

モデルのカスタマイズとパフォーマンス

ファインチューニングにより、開発者は教師ありファインチューニングを実行して独自のユーザー体験を作成し、モデルのパフォーマンスを向上させることができます。OpenAIによると、早期のテストでは、GPT-3.5 Turboのファインチューニング済みバージョンが特定の狭いタスクにおいてベースのGPT-4を上回る可能性があることが示されています。

主なパフォーマンスの改善

開発者はファインチューニングを使用して、モデルの動作における以下の改善を達成できます。

• 操作性の向上: モデルは、特定の言語（例えば、ドイツ語）を維持したり、出力を簡潔に保つなど、指示により正確に従うように訓練できます。
• 信頼性の高い出力フォーマット: ファインチューニングにより、特定のフォーマットを一貫して生成するモデルの能力が向上し、これはコード補完やAPI呼び出しの生成などのアプリケーションに不可欠です。たとえば、プロンプトを高品質なJSONスニペットに変換する場合などです。
• カスタムトーン: 企業は、モデルの出力を自社固有のブランドボイスと質感に合わせ、ユーザー間のやり取り全体での一貫性を確保できます。

効率とコスト削減

GPT-3.5 Turboのファインチューニングにより、企業はモデルに直接指示を組み込むことでプロンプトを短縮できます。早期のテスターはプロンプトサイズを最大90%削減しており、これによりAPI呼び出しが速くなり、運用コストが低減されます。

さらに、新しいファインチューニング機能は4kトークンのコンテキストウィンドウをサポートし、これはOpenAIの以前のファインチューニング済みモデルの容量の2倍です。

データプライバシーと今後のロードマップ

ファインチューニングAPIを通じて送信されるデータは顧客が所有し、OpenAIやその他の組織によって他のモデルのトレーニングに使用されることはありません。

OpenAIは今後の秋に向けた以下のアップデートを示しています:

• GPT-4 ファインチューニング: GPT-4のファインチューニングサポートは、今後の秋後半にリリースされる予定です。
• 高度な機能: 関数呼び出しを伴うファインチューニングおよびgpt-3.5-turbo-16kモデルのサポートも、今後の秋後半に導入される予定です。