✷ 封存 · 11 個實驗室 · 1,214 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
DALL·E 外延功能發布
OpenAI 已推出 DALL·E 的外延功能，允許使用者透過自然語言描述延伸圖像超出原始邊界，同時保持視覺一致性。
OpenAI 宣佈使用人類回饋強化學習與 InstructGPT 的對齊策略
OpenAI 詳述其對齊方法，強調人類回饋強化學習與 InstructGPT 為低成本且有效的手段，使語言模型能遵循人類意圖，同時承認目前的限制與未來 AI 驅動的對齊研究目標。
OpenAI 內容審查端點發布
OpenAI 已發布免費的審核端點，提供基於 GPT 的分類器，協助開發者在其應用程式中偵測並阻止違規內容。
OpenAI 宣布高效的 Fill‑in‑the‑Middle 語言模型訓練方法
OpenAI 發佈了一種新訓練方法，使自回歸語言模型能夠執行填充中間（fill‑in‑the‑middle）任務，同時不犧牲從左至右的生成品質，提供了一種簡單且高效的方式來加入填充功能。
代碼合成大型語言模型的危害分析框架
OpenAI 推出了一套危害分析框架，以識別並減輕與部署像 Codex 這樣的先進程式碼生成模型相關的技術、社會、政治與經濟風險。
OpenAI DALL·E 測試版發布
OpenAI 宣布 DALL·E 現已向 100 萬名受邀使用者開放測試版，提供免費的每月點數與商業使用權。
減少偏見並提升 DALL·E 2 的安全性
OpenAI 已實施一項系統層面的技術於 DALL·E 2，以提升生成人物的多樣性，並加強安全過濾機制以防止製作欺騙性內容。
DALL·E 2：延伸創意
OpenAI 的 DALL·E 2 研究預覽已被超過 3,000 位藝術家在 118 個國家採用，將 AI 生成的影像整合到從醫療支援到高端烹飪藝術等多元創作工作流程中。
DALL·E 2 預訓練緩解措施
OpenAI 實施了主動學習的資料過濾、用於防止偏見放大的重新加權機制，以及基於聚類的去重流程，以消除 DALL·E 2 中的圖像重複生成問題。
OpenAI 影片預訓練（VPT）於 Minecraft
OpenAI 推出了影片預訓練（VPT），這是一種半監督式模仿學習方法，透過在大量未標記的人類遊玩影片資料集上訓練，使代理能在 Minecraft 中學習複雜行為。
OpenAI 大模型演化（ELM）研究
OpenAI 推出大模型演化（ELM），這是一種利用大型語言模型（LLM）通過模擬類似人類的程式碼變異來改進基因程式設計，從而在新領域生成可運作程式的方法。
AI 撰寫的批評有助於人類注意缺陷
OpenAI 的研究顯示，AI 生成的批評有助於人類評估者在摘要中識別出顯著更多的缺陷，暗示了一條可擴展的人類監督複雜 AI 任務的路徑。
OpenAI 大型神經網路訓練技術
OpenAI 概述了主要的平行化策略——資料平行、管線平行、張量平行與專家平行——以及用於協調 GPU 叢集以訓練大型 AI 模型的節省記憶體技術。
OpenAI、Cohere 與 AI21 Labs 部署語言模型的最佳實踐
OpenAI、Cohere 與 AI21 Labs 已發布一套聯合的初步最佳實踐，旨在負責任地開發與部署大型語言模型，以降低風險並防止濫用。
OpenAI 研究：教導模型以文字表達其不確定性
OpenAI 研究人員展示了 GPT-3 可以在不依賴模型 logits 的情況下，透過自然語言表達其答案的校準不確定性。
OpenAI Codex 應用與整合
OpenAI Codex 是一個基於 GPT-3 的自然語言轉程式系統，支援超過 70 個應用程式，包括 GitHub Copilot，透過將英文指令轉換為程式碼來提升開發者的生產力。
OpenAI DALL·E 2 研究預覽更新
OpenAI 正在以每週 1,000 名使用者的速度向等候名單上的使用者擴大 DALL·E 2 的存取，這是在產生超過 300 萬張圖像的有限研究預覽之後。
OpenAI 領導團隊更新
OpenAI 宣布了 Greg Brockman、Brad Lightcap、Mira Murati 與 Chris Clark 的執行職務變動，以使領導層與公司成長及策略里程碑保持一致。
測量 AI 對齊中的古德哈特定律
OpenAI 探討在 AI 模型中優化代理目標如何導致真實目標表現下降，這一現象稱為古德哈特定律，並提出 best-of-n 抽樣作為分析方法。
使用 CLIP 潛向的階層式文字條件圖像生成
OpenAI 推出了一個兩階段生成模型，使用先驗模型從文字產生 CLIP 圖像嵌入，並透過解碼器從這些嵌入生成圖像，提升了多樣性並實現了零樣本圖像操作。
GPT-3 與 Codex 的編輯與插入功能
OpenAI 發布了 GPT-3 與 Codex 的新版本，使其能夠編輯現有文本並在文件的中間插入內容，超越了簡單的文本補全。
OpenAI 經濟影響研究倡議
OpenAI 已向研究人員和公司發出徵求合作意向，以研究 GPT-3、ChatGPT 和 DALL-E 2 等大型語言模型的經濟影響。
OpenAI 程式碼生成模型經濟影響研究議程
OpenAI 已提出一項研究議程，旨在研究像 Codex 這樣的程式碼生成模型如何影響生產力、就業與經濟不平等，以作為部署、系統設計與公共政策的參考。
OpenAI 語言模型安全與濫用經驗教訓
OpenAI 分享了從部署 GPT-3 和 Codex 獲得的見解，強調真實世界的濫用經常與理論風險不同，且安全研究經常提升商業價值。
OpenAI Formal Math Olympiad Problem Solving
OpenAI 展示了其模型使用正式證明助手解決 AMC12、AIME 和 IMO 等競賽的正式數學奧林匹亞問題的能力。
OpenAI InstructGPT: 讓語言模型對齊以遵循指令
OpenAI 推出 InstructGPT，該系列模型透過人類回饋強化學習（RLHF）進行訓練，以更好地遵循使用者意圖、提高真實性，並相較於 GPT-3 減少毒性。
OpenAI Text and Code Embeddings 發佈
OpenAI 發佈了基於 GPT-3 後繼模型的新型嵌入模型系列，這些模型為文本和代碼提供數值表示，以改進語義搜索、聚類和代碼檢索。
OpenAI 透過對比式預訓練實現文本與程式碼嵌入
OpenAI 開發了一種透過在大規模無監督數據上進行對比式預訓練，來建立高品質文本與程式碼嵌入的方法，在線性探針分類與語義搜尋方面達到了最先進的結果。
WebGPT: Improving GPT-3 Factual Accuracy via Web Browsing
OpenAI 已將 GPT-3 微調為 WebGPT，這是一個使用文字型網頁瀏覽器來研究並引用來源的原型，旨在減少開放式問題回答中的幻覺現象。
為您的應用程式客製化 GPT-3
OpenAI 已發布 GPT-3 的微調功能，允許開發者使用專有數據來訓練模型，以提高可靠性、降低成本並改善延遲。
OpenAI Residency Program Announcement
OpenAI 推出了 OpenAI Residency，這是一個為期六個月的有薪計畫，旨在將來自其他領域的研究人員和工程師轉型為該公司的全職 AI 角色。
OpenAI API Access: GPT-3 Waitlist Removed
OpenAI 已移除 GPT-3 API 的候補名單，讓支援國家的開發者可以立即註冊並開始嘗試。
OpenAI 解決數學應用題與 GSM8K 資料集
OpenAI 開發了一套使用訓練過的驗證器來解決小學數學應用題的系統，其準確度幾乎是微調後的 GPT-3 的兩倍，在 9-12 歲兒童的 60% 準確度對比下，達到了 55% 的準確度。
OpenAI 使用人類回饋進行書籍摘要 (2021)
OpenAI 提出了一種結合來自人類回饋的強化學習與遞迴任務分解的技術，以生成整本書的摘要，解決了在難以評估的任務上監督人工智慧的對齊挑戰。
TruthfulQA：衡量模型如何模仿人類的錯誤資訊
OpenAI 推出了 TruthfulQA，這是一個旨在衡量語言模型是否在 38 個類別中模仿常見的人類誤解和錯誤資訊的基準測試。
Helen Toner 加入 OpenAI 董事會
OpenAI 於 2021 年 9 月 8 日任命 AI 政策與全球策略專家 Helen Toner 加入其董事會，以強化其對安全且負責任的 AI 部署之承諾。
OpenAI Codex: 用於程式碼生成的 GPT-3 後代
OpenAI Codex 是一個同時訓練於自然語言和數十億行公開原始碼的 GPT-3 後代，能夠從英文指令生成可執行的程式碼。
OpenAI Triton 1.0 發佈
OpenAI 已發佈 Triton 1.0，這是一種開源且類似 Python 的語言與編譯器，讓研究人員無需深厚的 CUDA 專業知識即可編寫高效能的 GPU kernel。
評估在程式碼上訓練的大型語言模型：OpenAI Codex
OpenAI 推出了 Codex，這是一個在 GitHub 程式碼上進行微調的 GPT 模型，在單次嘗試中解決了 28.8% 的 HumanEval 問題，透過重複採樣最高可達 70.2%。
OpenAI 研究：透過精選數據集微調來改善語言模型行為
OpenAI 研究人員發現，透過在少於 100 個範例的精選小型數據集上進行微調，可以顯著改善模型對特定行為價值觀的遵循程度，且不會損害下游任務的性能。
OpenAI 2021 學者計畫：最終專案
OpenAI 公布了 2021 學者計畫的最終專案，展示了來自多樣化研究者群體的研究，內容涵蓋縮放定律、獎勵建模與強化學習。
Will Hurd 加入 OpenAI 董事會
OpenAI 已任命前美國國會議員 Will Hurd 加入其董事會，以將公共政策專業知識與技術 AI 開發相結合。
GPT-3 API 生態系統與應用成長
OpenAI 表示，超過 300 個應用程式與數萬名開發者正利用 GPT-3 在不同產業中每天平均生成 45 億個單字。
CLIP 中的多模態神經元
OpenAI 在 CLIP 中發現了對同一概念（無論是以字面、象徵或概念方式呈現）產生反應的神經元，這反映了人類大腦中的多模態神經元。
理解大型語言模型的技術能力、限制與社會影響
OpenAI 總結了一場跨領域工作坊，探討與 GPT-3 及其他大型語言模型相關的技術邊界與社會風險。
OpenAI 將 Kubernetes 擴展至 7,500 節點
OpenAI 將單個 Kubernetes 叢集擴展至 7,500 節點，為機器學習研究提供簡單且可擴展的基礎設施，克服了網路、API 伺服器負載和監控方面的挑戰。
CLIP: Connecting Text and Images
OpenAI 推出了 CLIP，這是一種透過自然語言語言監督來學習視覺概念的神經網路，以實現跨不同數據集的 zero-shot 圖像分類。
DALL·E: 從文字生成圖像
OpenAI 推出 DALL·E，這是一個具有 120 億參數的 Transformer 模型，能夠透過將圖像和文字視為單一詞元流來從文字描述生成多樣化的圖像。
OpenAI 組織更新 2020 年 12 月
OpenAI 宣布研究副總裁 Dario Amodei 離職，並任命 Mira Murati 為研究、產品與合作夥伴關係高級副總裁，以更有效地整合安全與產品開發。
OpenAI 將 GPT-3 技術授權給 Microsoft
OpenAI 已將其 GPT-3 語言模型技術授權給 Microsoft，以整合至 Microsoft 的產品與服務中，同時為第三方開發者保留獨立的 API 存取權限。