GPT-3 與 Codex 的編輯與插入功能

OpenAI 推出了 GPT-3 與 Codex 的新功能,讓模型能夠編輯現有文本並在文件的中間插入內容。這種從簡單的文本補全轉向迭代修訂的轉變,使得 OpenAI API 在重構代碼和重寫段落等任務中變得更加實用。

在現有文本中插入內容

新的插入功能允許 GPT-3 與 Codex 在現有內容的中間添加上下文相關的文本。透過為模型提供前文與後文的上下文,長篇寫作、段落間的轉換以及遵循大綱的要求,其補全品質得到了提升。

技術實作與使用案例

  • 長篇文本: 模型可以在大綱中的章節標題之間填補空白,確保生成的內容在邏輯上將兩個章節聯繫起來。
  • 軟體開發: 插入功能對於在文件中間添加代碼特別有效。它允許模型透過分析插入點之後的代碼,來完成缺失的函數、添加 docstrings 並包含必要的 imports。
  • 整合: 此功能目前正在 GitHub Copilot 中進行試點。

可用性與模型

Insert 功能目前透過 completions endpoint 與 Playground 介面以 beta 版提供。它由以下模型支援:

  • text-davinci-002
  • code-davinci-002

編輯現有文本

OpenAI 發布了一個專門的 edits endpoint 在 beta 版中,它會根據特定的指令來修改現有文本,而非僅僅是補全它。這讓使用者能夠在不生成全新內容的情況下,改變文本的語氣、結構或特定細節。

功能與應用

  • 文本修改: edits endpoint 可以改變寫作的語氣、重組文本結構,或修正拼寫錯誤。它也支援空提示詞(empty prompts),使其能夠實現類似於 completions endpoint 的文本生成功能。
  • 代碼重構: 此工具對於重構代碼、添加文檔、在程式語言之間進行轉換以及改變編碼風格非常有效。例如,它可以從 JSON 輸入中移除特定欄位,並將格式轉換為 YAML。

可用性與模型

編輯功能透過專門的 API endpoint 與 Playground 介面提供。它支持以下模型:

  • text-davinci-edit-001
  • code-davinci-edit-001

在發布之時,edits endpoint 正以 beta 版公開提供,且可免費使用。

Sources

相關