OpenAI 推出 ChatGPT 與 Whisper API

GPT-3.5 Turbo API 功能與定價

gpt-3.5-turbo 模型與 ChatGPT 產品中使用的模型相同，設計可用於聊天與非聊天的情境。早期測試者已成功從 text-davinci-003 迁移至 gpt-3.5-turbo，僅需少量提示詞調整。

• 定價：此模型每 1k 令牌收費 $0.002，較先前的 GPT-3.5 模型便宜 10 倍。
• 輸入格式：與傳統 GPT 模型消耗非結構化文字不同，ChatGPT 模型使用帶有元資料的訊息序列，內部以 Chat Markup Language（ChatML）呈現。
• 模型版本：開發者可使用 gpt-3.5-turbo 端點取得建議的穩定模型，或選擇特定版本，例如 gpt-3.5-turbo-0301。

Whisper API 語音轉文字

OpenAI 已透過 API 提供其開源 Whisper 模型的 large-v2 版本。此服務可即時取得接近人類水平的語音轉文字準確度，且具備高度優化的服務堆疊以提升效能。

• 定價：此服務每分鐘收費 $0.006。
• 端點：API 提供 transcriptions（來源語言轉錄）與 translations（轉錄為英文）。
• 支援格式：API 接受 m4a、mp3、mp4、mpeg、mpga、wav 與 webm 格式。

高流量使用者的專屬實例

對於需要更深入控制系統效能與模型版本的開發者，OpenAI 現已透過 Azure 提供專屬實例。使用者可按時間段付費租用預留運算基礎設施，而非按請求付費。

對每日處理超過 4.5 億令牌的開發者而言，專屬實例在經濟上具備可行性。其優勢包括：

• 完全掌控實例負載，以平衡吞吐量與請求速度。
• 能夠固定特定模型快照。
• 可選擇啟用如更長上下文限制等功能。

以開發者為中心的政策更新

OpenAI 已根據開發者回饋更新 API 服務條款與資料處理政策：

• 資料隱私：除非組織明確選擇，透過 API 提交的資料不再用於模型訓練或服務改進。
• 資料保留：已實施預設 30 天的資料保留政策，並提供更嚴格保留的選項。
• 所有權：使用者現在擁有模型的輸入與輸出。
• 存取：已移除預先審核流程，以簡化開發者上線程序。

業界應用案例

多家公司已將這些 API 整合至自家產品，以提升使用者體驗：

• Snap Inc：整合 gpt-3.5-turbo 為 Snapchat+ 的「My AI」提供動力。
• Quizlet：開發「Q-Chat」，使用 gpt-3.5-turbo API 的自適應 AI 家教。
• Instacart：利用該 API 推出「Ask Instacart」，讓顧客搜尋食物與購物靈感。
• Shop（Shopify）：實作購物助理，提供個人化商品推薦。
• Speak：使用 Whisper API 為語言學習者提供 AI 語音伴侶。