GPT-4 API 一般可用性與 Completions API 停用
OpenAI 宣布 GPT-4 API 已對所有付費客戶普遍開放,並針對 Completions、Embeddings 與 Edits API 中的舊版模型制定了完整的停用時間表。此變動標誌著向 Chat Completions API 轉移,將其作為開發者與 OpenAI 最強大模型互動的主要介面。
GPT-4 API 一般可用性
所有已有成功付款紀錄的現有 API 開發者現在可使用具 8K 上下文窗口的 GPT-4 API。OpenAI 計畫在 2024 年 4 月底前將存取權限擴展至新開發者,並將根據計算資源的可用性提升速率限制。
除了 GPT-4 之外,GPT-3.5 Turbo、DALL·E 與 Whisper API 也已普遍開放。OpenAI 亦表示,GPT-4 與 GPT-3.5 Turbo 的微調功能預計將於 2024 年稍後推出。
轉向 Chat Completions API
OpenAI 正將重點放在 Chat Completions API 上,該 API 目前佔其 GPT API 使用量的 97%。公司正從原本自由文字提示的 Completions API 轉向結構化提示介面。
基於聊天模式的優勢
- 增強彈性: 結構化介面支援系統訊息與函式呼叫,讓更複雜的對話體驗與完成任務成為可能。
- 提升安全性: Chat Completions API 透過在結構上將使用者提供的內容與系統指令分離,降低提示注入攻擊的風險。
- 多回合能力: 此 API 專為多回合對話設計,提供更具針對性的回應。
OpenAI 正在努力填補 Chat Completions API 的剩餘缺口,包括提升可控性以減少「聊天傾向」以及提供完成 token 的對數機率。
舊版模型的停用
OpenAI 將在三個不同的 API 類別中淘汰多個舊版模型。Completions API 在開發者文件中將被標示為「legacy」,且不會再公開發布新模型。
Completions API 停用
自 2024 年 1 月 4 日起,舊的完成模型將被以下模型取代:
| 舊模型 | 新模型 |
|---|---|
| ada, babbage | babbage-002 |
| curie, davinci | davinci-002 |
| davinci-instruct-beta, curie-instruct-beta, text-ada-001, text-babbage-001, text-curie-001, text-davinci-001, text-davinci-002, text-davinci-003 | gpt-3.5-turbo-instruct |
使用基礎 GPT-3 模型穩定名稱(ada、babbage、curie、davinci)的應用程式將自動升級。其他模型的使用者,例如 text-davinci-003,必須手動升級至 gpt-3.5-turbo-instruct。
Embeddings API 停用
所有使用舊版 Embeddings 模型(例如 text-search-davinci-doc-001)的使用者必須在 2024 年 1 月 4 日前遷移至 text-embedding-ada-002。OpenAI 指出,text-embedding-ada-002 目前佔所有 Embedding API 使用量的 99.9%。
Edits API 停用
Edits API 及其相關模型(例如 text-davinci-edit-001 或 code-davinci-edit-001)的使用者必須在 2024 年 1 月 4 日前遷移至 GPT-3.5 Turbo。
微調遷移支援
在舊版基礎 GPT-3 模型上進行微調的開發者,必須在 babbage-002、davinci-002、GPT-3.5 Turbo 或 GPT-4 上重新微調,以在 2024 年 1 月 4 日之後繼續使用。OpenAI 承諾為先前微調舊模型的使用者提供 GPT-3.5 Turbo 與 GPT-4 微調的優先存取,並將負擔使用者在 Embeddings API 遷移時重新嵌入內容的費用。