OpenAI DevDay 2023: GPT-4 Turbo, Assistants API, and Multimodal Updates

OpenAIは、128Kのコンテキストウィンドウを備えた、より高性能でコスト効率の高いモデルであるGPT-4 Turboと、AIエージェントの作成を簡素化するために設計された新しいAssistants APIを発表しました。DevDayで発表されたこれらのアップデートは、プラットフォームのマルチモーダル機能を大幅に拡張し、開発者のための価格設定を削減するものです。

GPT-4 Turbo: コンテキストの拡大とコストの低減

GPT-4 Turboは次世代のGPT-4モデルであり、1回のプロンプトで300ページ以上のテキストを処理できる128Kのコンテキストウィンドウを備えています。このモデルは2023年4月までの世界情勢に関する最新の知識を持っており、gpt-4-1106-preview APIエンドポイントを通じて利用可能です。

価格とパフォーマンス

GPT-4 Turboは、従来モデルよりも大幅に安価です。入力トークンは3倍安く（1kトークンあたり$0.01）、出力トークンは2倍安くなっています（1kトークンあたり$0.03）。これはGPT-4と比較した場合です。

技術的な強化

  • Parallel Function Calling: 開発者は、1つのメッセージ内で複数の関数を呼び出すことが可能になり、複雑なリクエストに必要なラウンドトリップの回数が削減されます。
  • JSON Mode: 新しいresponse_formatパラメータにより、モデルが構文的に正しいJSONを生成することが保証され、Chat Completions APIを使用する開発者の信頼性が向上します。
  • Reproducible Outputs: seedパラメータの導入により、より一貫した補完が可能になります。これはデバッグやユニットテストにおいて極めて重要です。
  • Log Probabilities: OpenAIは間もなく、GPT-4 TurboとGPT-3.5 Turboの両方において、最も可能性の高い出力トークンのログ確率を返す機能をサポートする予定です。

更新されたGPT-3.5 Turbo

OpenAIは、デフォルトで16Kのコンテキストウィンドウをサポートする新しいバージョンのGPT-3.5 Turbo（gpt-3.5-turbo-1106）をリリースしました。内部評価では、JSON、XML、YAMLの生成などのフォーマット遵守タスクにおいて38%の改善が示されています。

Assistants API: AIエージェントの構築

Assistants APIを使用すると、開発者は特定の指示とツールへのアクセスを持つ専用のAIを作成することで、「エージェントのような」体験を構築できます。主な革新は、永続的で無限に長いスレッドの使用であり、これにより状態管理がOpenAI側にオフロードされ、従来のコンテキストウィンドウの制約を回避できます。

統合されたツール

  • Code Interpreter: アシスタントがサンドボックス環境でPythonコードを記述・実行し、数学の問題を解いたりチャートを生成したりすることを可能にします。
  • Retrieval: 開発者が独自の埋め込み（embedding）やチャンク分割アルゴリズムを実装する必要なく、アシスタントが独自のドメインデータやユーザーが提供したドキュメントにアクセスできるようにします。
  • Function Calling: アシスタントがカスタム定義された関数を呼び出し、そのレスポンスをメッセージに組み込むことを可能にします。

新しいマルチモーダル機能

OpenAIは、ビジョン、画像生成、音声合成を含むようにAPIを拡張しました。

  • GPT-4 Turbo with Vision: gpt-4-vision-previewを通じてアクセス可能で、モデルが画像を分析し、キャプションを生成し、図面を含むドキュメントを読み取ることを可能にします。

  • DALL·E 3: Images API（dall-e-3）を通じて利用可能になり、開発者が組み込みのモデレーション機能を使用してプログラムで画像を生成できるようになります。

  • Text-to-Speech (TTS): 新しいAPIにより、6つのプリセット音声と2つのバリアント（リアルタイム向けに最適化されたtts-1と、品質向けに最適化されたtts-1-hd）を使用して、テキストから人間レベルの音声を生成できます。

モデルのカスタマイズとファインチューニング

OpenAIは、モデルのカスタマイズのために2つのパスを導入しています。

  1. GPT-4 Fine-Tuning: GPT-4のファインチューニングのための実験的なアクセスプログラムが確立されていますが、予備的な結果では、GPT-3.5と比較して意味のある利点を得るためにはより多くの労力が必要であることが示唆されています。
  2. Custom Models Program: 膨大な独自のデータセット（数十億トークン）を持つ組織が、OpenAIの研究者と協力して事前学習段階からカスタムGPT-4モデルをトレーニングするための、限定的な高コストプログラムです。

プラットフォームのインフラストラクチャと法的保護

価格とレート制限

OpenAIはプラットフォーム全体の価格を引き下げました。特に、GPT-3.5 Turbo 16Kの入力トークンは3倍安くなり（1kトークンあたり$0.001）、出力トークンは2倍安くなりました（1kトークンあたり$0.002）。さらに、すべての有料GPT-4顧客の分あたりのトークン制限が2倍に引き上げられました。

Copyright Shield

OpenAIは「Copyright Shield」を導入しました。これは、ChatGPT Enterpriseおよび開発者プラットフォームの一般に提供されている機能の使用に関連して著作権侵害の申し立てを受けた場合に、顧客を防御し、法的費用をカバーするというコミットメントです。

オープンソースのリリース

  • Whisper large-v3: 多言語パフォーマンスが向上した、オープンソースの自動音声認識（ASR）モデルの次世代バージョン。
  • Consistency Decoder: Stable Diffusion 1.0+ VAEと互換性のある画像における、テキスト、顔、直線のレンダリングを改善する、Stable Diffusion VAEデコーダーのオープンソースのドロップイン・リプレイスメント。

Sources