GPT-3.5 Turbo 微調與 API 更新

OpenAI 已為 GPT-3.5 Turbo 推出微調功能，使開發者能夠為特定使用場景自訂模型，以獲得更高的效能與擴展性。此更新具有重要意義，因為它允許經微調的 GPT-3.5 Turbo 模型在特定且狹窄的任務上匹配或超越基礎 GPT-4 模型的能力。

模型自訂與效能

微調允許開發者進行監督式微調，以創造獨特的使用者體驗並提升模型效能。根據 OpenAI 的說法，早期測試顯示，經微調的 GPT-3.5 Turbo 版本在某些狹窄任務上可優於基礎 GPT-4 模型。

主要效能提升

開發者可以利用微調來實現模型行為的以下改進：

• 改進的可引導性：模型可以被訓練以更精確地遵循指令，例如保持特定語言（如德語）或確保輸出保持簡潔。
• 可靠的輸出格式：微調提升了模型持續產出特定格式的能力，這對於涉及程式碼補全或生成 API 呼叫的應用至關重要，例如將提示詞轉換為高品質的 JSON 片段。
• 自訂語氣：企業可以將模型的輸出與其特定的品牌聲音和質感對齊，以確保在使用者互動中的一致性。

效率與成本降低

對 GPT-3.5 Turbo 進行微調使企業能夠透過將指令直接嵌入模型來縮短提示詞。早期測試者已將提示詞大小減少多達 90%，這導致 API 呼叫更快且運營成本降低。

此外，新的微調功能支援 4k tokens 的上下文視窗，這是 OpenAI 先前微調模型容量的兩倍。

資料隱私與未來路藍圖

透過微調 API 傳送的資料由客戶擁有，且不會被 OpenAI 或任何其他組織用來訓練其他模型。

OpenAI 已規劃以下在即將到來的秋季推出的更新：

• GPT-4 微調：支援對 GPT-4 進行微調的功能預計將在此秋季後半段推出。
• 進階功能：支援帶有函式呼叫的微調以及 gpt-3.5-turbo-16k 模型的功能也將在此秋季後半段推出。