OpenAI o1 和開發者工具更新 2024 年 12 月
OpenAI 已將生產就緒的 o1 推理模型引入其 API，同時更新了 Realtime API，引入了新的偏好微調方法，以及提供 Go 和 Java 的 Beta SDK。這些更新旨在提升代理應用的推理能力，降低實時音訊互動的成本，並提供對模型行為更細緻的控制。
OpenAI o1 API 整合
OpenAI o1 是一種專為複雜多步驟任務設計的推理模型，現在對使用層級 5 的開發者開放。此模型繼承 o1-preview，並針對生產環境進行了優化，具備多項新技術功能。
主要技術特性
- 函式呼叫與結構化輸出：o1 現在可以連接外部 API 和資料來源，並可靠地生成符合自訂 JSON Schema 的回應。
- 視覺能力：模型可以對視覺輸入進行推理，使得在編碼、製造和科學領域的應用成為可能。
- 開發者訊息：開發者現在可以透過開發者訊息提供特定的行為指引，例如語氣和風格。
- 推理控制：新的
reasoning_effortAPI 參數允許開發者控制模型在生成答案前思考的持續時間。 - 效率：相同請求下，o1 模型平均使用的推理 token 比 o1-preview 少 60%。
o1-2024-12-17 的效能基準
最新的快照 (o1-2024-12-17) 在多個領域展現了與 o1-preview 相比的最先進結果：
| 類別 | 評估 | o1-2024-12-17 | o1-preview |
|---|---|---|---|
| 一般 | GPQA diamond | 75.7 | 73.3 |
| 一般 | MMLU (pass @1) | 91.8 | 90.8 |
| 編碼 | SWE-bench Verified | 48.9 | 41.3 |
| 編碼 | LiveBench (Coding) | 76.6 | 52.3 |
| 數學 | MATH (pass @1) | 96.4 | 85.5 |
| 數學 | AIME 2024 (pass @1) | 79.2 | 42.0 |
| 數學 | MGSM (pass @1) | 89.3 | 90.8 |
| 視覺 | MMMU (pass @1) | 77.3 | — |
| 視覺 | MathVista (pass @1) | 71.0 | — |
| 事實性 | SimpleQA | 42.6 | 42.4 |
| 代理 | TAU-bench (retail) | 73.5 | — |
| 代理 | TAU-bench (airline) | 54.2 | — |
OpenAI 報告指出，o1-2024-12-17 在結構化輸出和函式呼叫測試中顯著優於 gpt-4o。
Realtime API 增強
Realtime API 的更新專注於提升語音應用的可存取性並降低運營成本。
WebRTC 整合
OpenAI 已加入 WebRTC 支援，WebRTC 是一種開放標準，簡化了跨瀏覽器、行動客戶端和 IoT 裝置的實時語音產品擴展。此整合處理擁塞控制、噪音抑制、音訊串流和編碼，以確保在網路品質變動的情況下仍能保持響應式互動。
定價與模型更新
Realtime API 的 Beta 版已發布兩個新快照：
- gpt-4o-realtime-preview-2024-12-17：具備改進的語音品質和更可靠的數字口述輸入。音訊 token 價格降低了 60%（$40/1M 輸入，$80/1M 輸出）。快取音訊輸入成本已下降 87.5% 至 $2.50/1M 輸入 token。
- gpt-4o-mini-realtime-preview-2024-12-17：將 mini 模型的成本效益帶入 Realtime API。音訊定價為 $10/1M 輸入，$20/1M 輸出 token；文字 token 為 $0.60/1M 輸入，$2.40/1M 輸出 token。
偏好微調
OpenAI 已引入偏好微調（PFT），這是一種使用直接偏好優化（DPO）的自訂技術，透過回應的成對比較來調整模型。
PFT 與監督微調（SFT）的比較
| 特徵 | 監督微調 (SFT) | 偏好微調 (PFT) |
|---|---|---|
| 目標 | 複製標記輸出以確保正確性 | 加強偏好回應並減少非偏好回應 |
| 訓練資料 | 精確的輸入/輸出配對 | 偏好與非偏好輸出的配對 |
| 使用案例 | 嚴格正確性，自訂代碼格式 | 主觀任務，如創意寫作或摘要 |
實際應用
Rogo AI 運用 PFT 提升了財務 AI 助理處理分布外查詢擴展的能力。透過使用他們的 Rogo-Golden 基準，他們將準確度從基礎模型的 75% 提升至超過 80%。
偏好微調目前正在為 gpt-4o-2024-08-06 推出，並將很快提供給 gpt-4o-mini-2024-07-18。
Go 和 Java 的新 SDK
OpenAI 已發布 Go 和 Java 的 Beta SDK，以擴大開發者的可及性：
- Go SDK：提供專用於 API 整合的函式庫。
- Java SDK：提供類型化的請求與回應物件及管理 API 請求的工具，針對企業軟體開發環境。