OpenAI 模型蒸餾 API 整合

OpenAI 推出了模型蒸餾套件，將整個蒸餾流程——資料集生成、評估與微調——直接整合到 OpenAI 平台。這讓開發者能以高效能的前沿模型（例如 o1-preview 與 GPT-4o）作為教師，提升成本較低模型（例如 GPT-4o mini）在特定任務上的表現。

模型蒸餪工作流程

模型蒸餾是利用更強大的「教師」模型輸出，對較小、成本效益高的模型進行微調的過程。其目標是讓較小的模型在特定任務上匹配先進模型的表現，同時維持較低的運營成本。

過去，這個過程是一個多步驟、迭代的流程，開發者必須手動在不同的工具間協調資料集生成、微調與效能測量。全新的整合套件透過提供三個核心元件，使流程更為順暢：

儲存完成項目

儲存完成項目讓開發者能透過 API 自動捕捉並儲存由 GPT-4o 或 o1-preview 等模型產生的輸入-輸出配對。這使得可使用實際生產資料建立蒸餾資料集，進而用於模型的評估與微調。

Evals（Beta）

Evals 是一項 Beta 功能，提供一種整合式的方法來衡量模型在特定任務上的表現。開發者可以使用來自儲存完成項目的資料或上傳的資料集，建立並執行自訂評估。Evals 可獨立於微調流程使用，以量化評估模型在特定使用情境下的效能。

整合式微調

儲存完成項目與 Evals 完全整合至 OpenAI 現有的微調服務。開發者可使用透過儲存完成項目產生的資料集進行微調作業，然後利用 Evals 對微調後的模型執行效能評估，全部皆在同一平台生態系統內完成。