951

GPT-2 六個月後續追蹤

OpenAI 發布了 774M 參數的 GPT-2 模型,並分享了關於合成文本風險、檢測難度以及大型語言模型分階段發布策略必要性的教訓。

952

OpenAI Learning Day: 培養跨功能專長

OpenAI 實施 Learning Day,即每週週四專門的自學日,旨在促進跨功能技術成長並防止專業停滯。

953

Microsoft 與 OpenAI 合作開發 AGI

Microsoft 向 OpenAI 投資 10 億美元,以在 Azure 上共同開發一個旨在擴展至創造益於人類的人工通用智能 (AGI) 的硬體與軟體平台。

954

OpenAI AI 安全合作框架

OpenAI 提出了四項策略,透過在整個產業中推動安全規範與標準的合作,來防止 AI 開發中的集體行動問題。

955

OpenAI 機器人研討會 2019

OpenAI 於 2019 年 4 月 27 日舉辦了首屆機器人研討會,匯聚機器人與機器學習領域的專家,討論開發能學習的機器人。

956

OpenAI Scholars 2019 Final Projects

OpenAI 發布了 2019 年 OpenAI Scholars 計畫的最終專案摘要,展示了深度學習、強化學習和 NLP 在各個領域的多樣化應用。

957

OpenAI Fellows Fall 2018 Final Projects

OpenAI 宣布其第二屆 OpenAI Fellows 計畫完成,所有六位參與者在為期六個月的學徒期後,已轉型為全職技術團隊成員。

958

OpenAI 研究:不同擾動類型之間的對抗魯棒性遷移

OpenAI 研究人員發現,對抗魯棒性在不同擾動類型之間並不會一致地遷移,這表明防禦措施必須針對多種不同的攻擊向量進行評估,才能真正發揮效用。

959

OpenAI MuseNet

MuseNet 是一個深度神經網路,能夠透過從數十萬個 MIDI 檔案中學習和聲、節奏和風格的模式,生成包含 10 種樂器的 4 分鐘音樂作品。

960

OpenAI Sparse Transformer

OpenAI 推出了 Sparse Transformer,這是一種使用重新設計的注意力機制來建模序列的深度神經網絡,透過將演算法複雜度從 O(N^2) 降低到 O(N sqrt(N)),使其能夠建模比以往 Transformers 長 30 倍的序列。

961

OpenAI Five 擊敗 Dota 2 世界冠軍

OpenAI Five 成為第一個在現場直播的比賽中擊敗電競世界冠軍的 AI,在對陣 Dota 2 戰隊 OG 時連續贏得兩場比賽。

962

OpenAI Five 決賽活動公告

OpenAI 於 2019 年 4 月 13 日宣布 OpenAI Five 的最終現場活動,以展示其 Dota 2 AI 的能力、可擴展性以及人機互動能力。

963

能量基模型的隱式生成與泛化方法

OpenAI 研究人員開發了用於能量基模型(EBMs)的穩定且具擴展性的訓練方法,與基於似然的模型相比,實現了高品質的圖像生成與卓越的分布外泛化能力。

964

OpenAI Scholars 2019 計畫參與者

OpenAI 推出了其 2019 年度的學者群,這是一個專注於強化學習、自然語言處理和生成模型的跨學科研究人員團隊。

965

OpenAI LP:轉向上限利潤結構

OpenAI 宣佈成立 OpenAI LP,一家混合型上限利潤公司,旨在為計算資源與人才籌集數十億資金,同時確保安全 AGI 的核心使命惠及全人類。

966

OpenAI Activation Atlases

OpenAI 與 Google 研究人員推出了 Activation Atlases,這是一種透過映射神經元之間的交互作用來揭示神經網路如何表示概念並識別決策弱點的視覺化技術。

967

Neural MMO: A Massively Multiagent Game Environment

OpenAI 已發布 Neural MMO,這是一個為強化學習智能體設計的持久且大規模的環境,展示了增加人口規模與物種多樣性如何驅動探索與生態位形成。

968

OpenAI Spinning Up in Deep RL Workshop Review

OpenAI 主辦了一場基於其 Spinning Up in Deep RL 資源包的研討會,旨在為多樣化的參與者群體擴展強化學習的指導與技能開發。

969

AI Safety Needs Social Scientists

OpenAI 主張,長期的 AI 安全與對齊需要整合社會科學,以考量人類的認知偏見與人類價值觀的複雜性。

970

OpenAI GPT-2 發布與影響

OpenAI 推出了 GPT-2,一個擁有 15 億參數的無監督語言模型,具備零樣本任務執行能力與連貫文本生成,同時採取分階段發布策略以降低濫用風險。

971

OpenAI 研究:強健分類中的計算限制

OpenAI 研究人員已識別出某些分類任務,在這些任務中強健分類器存在但計算上無法學習,從而將強健學習的難度與密碼學原語的存在聯繫起來。

972

OpenAI Summer Fellows 2018 Final Projects

OpenAI 的 2018 Summer Fellows 完成了專注於強化學習泛化能力、分散式訓練模式以及生成模型表達能力的研究專案。

973

AI 訓練規模化:透過梯度噪聲尺度預測平行化能力

OpenAI 發現,梯度噪聲尺度作為衡量網路梯度訊噪比的統計指標,能夠預測在各種任務中神經網路訓練的最大有效批次大小。

974

量化強化學習中的泛化能力

OpenAI 推出 CoinRun,一個程序生成的訓練環境,旨在量化並提升代理在強化學習中將已學技能轉移至新情境的能力。

975

OpenAI 深度強化學習入門指南

OpenAI 已發布 Spinning Up in Deep RL,這是一個提供程式碼、教學與文件的教育資源,協助實踐者精通深度強化學習。

976

OpenAI 使用能量函數學習概念

OpenAI 開發了一種利用能量函數的技術,使代理能夠學習與提取概念,且這些概念可在不同環境間轉移,無需重新訓練。

977

OpenAI 線上規劃 離線學習 (POLO) 框架

OpenAI 介紹了 Plan Online Learn Offline (POLO) 框架,該框架結合了本地模型式控制與全域價值函數學習,以實現在複雜模擬控制任務中的高效學習。

978

OpenAI 隨機網路蒸餾 (RND) 用於強化學習

OpenAI 介紹了隨機網路蒸餾 (RND),一種以好奇心驅動的探索方法,首次在《Montezuma's Revenge》中超越平均人類表現,且未使用人類示範或模擬器狀態存取。

979

OpenAI 迭代放大於複雜目標學習

OpenAI 提出迭代放大,這項 AI 安全技術透過將任務分解為更簡單的子任務以產生訓練訊號,從而使得規範複雜、超出人類規模的目標成為可能。

980

OpenAI 學者 2019 計畫公告

OpenAI 已開放第二屆 OpenAI 學者計畫的申請,提供獎學金與導師指導給來自弱勢族群的個人,以學習深度學習並開源專案。

981

OpenAI 2019 冬季研究員與夏季實習生計畫

OpenAI 宣布開放 2019 冬季研究員計畫與 2019 夏季實習生的申請,旨在將來自多元背景的研究者與學生納入其 AI 研究工作。

982

FFJORD:自由形式連續動力學,用於可擴展的可逆生成模型

OpenAI 介紹了 FFJORD,一種連續時間可逆生成模型,利用 Hutchinson 的追蹤估計器,使得在可擴展的密度估計中能夠使用不受限制的神經網路架構。

983

OpenAI 學者 2018 最終專案

OpenAI 發布了 2018 年學者計畫的最終專案展示,展示了機器學習在音樂生成、直覺物理和自然語言處理等多元應用。

984

OpenAI Five:2018 年國際賽結果

OpenAI Five 在 2018 年國際賽中與世界級的職業 Dota 2 玩家競爭,儘管在「真實 Dota」規則下兩場皆告失利,仍展現了高水準的遊戲表現。

985

OpenAI 大規模好奇心驅動學習研究

OpenAI 研究人員證明,僅以基於預測誤差的內在好奇心獎勵訓練的代理人,能在 54 個基準環境中取得高效能,且不需要任何人工設計的外在獎勵。

986

OpenAI Five 基準結果

OpenAI Five 在對陣 99.95 百分位 Dota 玩家隊伍的三局兩勝系列賽中獲勝,展示了 AI 在處理複雜性與不確定性方面的先進能力。

987

OpenAI Dactyl:透過領域隨機化學習靈巧

OpenAI 開發了 Dactyl,一個在模擬環境中訓練類人機械手以高靈巧度操作實體物件的系統,能將所學技能直接轉移至真實世界,且無需微調。

988

OpenAI 變分選項發現演算法

OpenAI 介紹了透過強化學習的變分自編碼選項學習(VALOR)以及課程式學習方法,以穩定強化學習代理人在多樣行為模式發現上的表現。

989

OpenAI 學者 2018:認識我們的學者

OpenAI 推出了 2018 年的學者計畫,匯聚了一群多元的研究者,專注於強化學習、語言模型以及 AI 與藝術的交叉領域。

990

OpenAI Five 基準測試

OpenAI 宣布了一場 OpenAI Five 的基準比賽,擁有擴充的英雄池與更新的遊戲機制,以測試 AI 對抗高百分位的人類玩家。

991

Glow:更佳的可逆生成模型

OpenAI 推出 Glow,一種使用可逆 1x1 卷積的流式生成模型,能以精確的潛在變數推斷與高效抽樣產生高解析度影像。

992

從單一示範學習 Montezuma’s Revenge

OpenAI 透過使用單一人類示範來建立逆向起始狀態課程,訓練出一個 RL 代理,使其在 Montezuma’s Revenge 中創下 74,500 的最高分紀錄。

993

OpenAI Five

OpenAI Five,由五個神經網路組成的團隊,透過在 Dota 2 上的自我對戰進行訓練,開始擊敗業餘人類隊伍,並表明經過擴大的強化學習可以在不需要根本算法進步的情況下處理長時程、部分可觀測的任務。

994

OpenAI 復古競賽結果

OpenAI 完成了首次復古競賽,最高表現的 Sonic the Hedgehog AI 代理是透過調整或擴展現有演算法(如 PPO 與 Rainbow DQN)開發的。

995

OpenAI 在多代理系統中的學習政策表徵

OpenAI 介紹了一個將代理建模視為表徵學習問題的通用學習框架,以在多代理系統中使用最少的互動資料來理解代理行為。

996

OpenAI 透過無監督學習提升語言理解

OpenAI 展示了透過無監督語言模型預訓練,然後在小規模監督資料集上微調的基於 Transformer 的模型,能在包括常識推理在內的多樣語言任務上達到最先進的表現。

997

GamePad:一個用於定理證明的學習環境

OpenAI 推出 GamePad,一個旨在於 Coq 證明助理中應用機器學習方法於定理證明,以自動化策略預測與位置評估的系統。

998

OpenAI Fellows 計畫 2018 秋季

OpenAI 於 2018 年秋季推出 Fellows 計畫,為沒有正式 AI 背景的個人提供進入人工智慧研究的途徑。

999

OpenAI Gym Retro 發佈

OpenAI 已發布 Gym Retro 的完整版本,這是一個強化學習平台,將可用的遊戲庫擴展至超過 1,000 款,涵蓋多個經典主機,以促進對代理泛化的研究。

1000

OpenAI AI 與運算分析

OpenAI 的分析顯示,自 2012 年以來,用於最大規模 AI 訓練的運算量呈指數增長,平均每 3.4 個月翻倍,遠超摩爾定律。