OpenAI が ChatGPT と Whisper API を紹介

OpenAI は GPT-3.5 Turbo と Whisper API をリリースし、開発者に高度な言語モデルと音声からテキストへのモデルへのアクセスを提供します。このリリースは、12月以降 ChatGPT モデルファミリーのコストが 90% 削減されたことが特徴で、現在は API ユーザーにそのまま適用されています。

GPT-3.5 Turbo API の機能と価格

gpt-3.5-turbo モデルは ChatGPT 製品で使用されているのと同じモデルで、チャット用途と非チャット用途の両方に対応するよう設計されています。初期のテスターは、text-davinci-003 から gpt-3.5-turbo へ、プロンプトの調整を最小限に抑えて移行に成功しています。

Pricing: このモデルの価格は 1k トークンあたり $0.002 で、従来の GPT-3.5 モデルより 10 倍安価です。
Input Format: 従来の GPT モデルが非構造化テキストを処理するのとは異なり、ChatGPT モデルはメタデータ付きメッセージのシーケンスを使用し、内部的に Chat Markup Language (ChatML) で表現されます。
Model Versioning: 開発者は推奨される安定版モデルとして gpt-3.5-turbo エンドポイントを使用するか、gpt-3.5-turbo-0301 のような特定のバージョンを選択できます。

音声からテキストへの Whisper API

OpenAI はオープンソースの Whisper モデルの large-v2 バージョンを API 経由で利用可能にしました。これにより、音声からテキストへのタスクで人間レベルの精度をオンデマンドで利用でき、パフォーマンス向上のために高度に最適化されたサービングスタックが提供されます。

Pricing: サービスの価格は 1 分あたり $0.006 です。
Endpoints: API は transcriptions（元の言語の文字起こし）と translations（英語への翻訳文字起こし）を提供します。
Supported Formats: API は m4a、mp3、mp4、mpeg、mpga、wav、webm 形式を受け付けます。

大量利用者向けの専用インスタンス

システム性能やモデルバージョンに対してより深い制御が必要な開発者向けに、OpenAI は Azure を通じて専用インスタンスを提供開始しました。これにより、リクエストごとの支払いではなく、予約されたコンピュートインフラに対して時間単位で支払うことができます。

1 日あたり 4.5 億トークン以上を処理する開発者にとって、専用インスタンスは経済的に有利です。主な利点は以下の通りです：

インスタンスの負荷を完全に制御し、スループットとリクエスト速度のバランスを取れる。
特定のモデルスナップショットを固定できる。
長いコンテキスト上限などの機能を有効化するオプションがある。

開発者中心のポリシー更新

OpenAI は開発者からのフィードバックを受けて、API の利用規約とデータ取り扱いポリシーを更新しました：

Data Privacy: API を通じて送信されたデータは、組織が明示的にオプトインしない限り、モデルのトレーニングやサービス改善に使用されなくなりました。
Data Retention: デフォルトで 30 日間のデータ保持ポリシーが実装され、より厳しい保持期間を選択することも可能です。
Ownership: ユーザーはモデルの入力と出力を所有できるようになりました。
Access: 開発者オンボーディングを簡素化するため、事前リリースレビュー手続きが廃止されました。

業界での実装例

複数の企業がこれらの API を自社製品に統合し、ユーザー体験の向上を図っています：

Snap Inc: gpt-3.5-turbo を統合し、Snapchat+ の「My AI」を実現。
Quizlet: gpt-3.5-turbo API を使用した適応型 AI チューター「Q-Chat」を開発。
Instacart: API を活用し「Ask Instacart」を提供、顧客が食料品やショッピングのアイデアを検索できるように。
Shop (Shopify): パーソナライズされた商品推奨を行うショッピングアシスタントを実装。
Speak: Whisper API を利用し、語学学習者向けの AI スピーキングコンパニオンを提供。