OpenAI ビデオ事前学習 (VPT) for Minecraft
OpenAI は、Video PreTraining (VPT) という半教師あり模倣学習手法を導入し、人間のプレイの大量のラベルなしビデオデータセットで学習することで、エージェントが Minecraft で複雑な行動を学習できるようにしました。
OpenAI 大規模モデルによる進化 (ELM) 研究
OpenAI は、LLM を使用して遺伝的プログラミングを人間らしいコード変異で近似し、未知のドメインで機能的なプログラムを生成する手法「大規模モデルによる進化 (ELM)」を紹介します。
AIが書いた批評が人間に欠陥に気付かせる
OpenAIの研究は、AIが生成した批評が人間の評価者に要約の欠陥を大幅に多く特定させることを示し、複雑なAIタスクに対する人間の監督をスケーラブルに行う道筋を示唆しています。
OpenAI 大規模ニューラルネットワークのトレーニング手法
OpenAI は、データ並列、パイプライン並列、テンソル並列、エキスパート並列という主要な並列化戦略と、巨大な AI モデルのトレーニングのために GPU クラスタを調整する際に使用されるメモリ節約技術を概説しています。
OpenAI、Cohere、AI21 Labs の言語モデル展開に関するベストプラクティス
OpenAI、Cohere、AI21 Labs は、大規模言語モデルの責任ある開発と展開に向けたリスク軽減と誤用防止のための、初期的なベストプラクティスを共同で発表しました。
OpenAI研究：モデルに不確実性を言葉で表現させる
OpenAIの研究者は、GPT-3がモデルのロジットに依存せずに、自然言語で回答の校正された不確実性を表現できるように訓練できることを実証しました。
OpenAI Codex のアプリケーションと統合
OpenAI Codex は GPT-3 を基盤とした自然言語からコードへの変換システムで、GitHub Copilot を含む 70 以上のアプリケーションに搭載され、英語の指示をコードに変換することで開発者の生産性を向上させます。
OpenAI DALL·E 2 研究プレビューの更新
OpenAIは、300万枚以上の画像を生成した限定的な研究プレビューに続き、待機リストに登録されたユーザーへのDALL·E 2へのアクセスを週に1,000人のペースで拡大しています。
OpenAI リーダーシップチームの更新
OpenAIは、Greg Brockman、Brad Lightcap、Mira Murati、Chris Clarkの役員職務変更を発表し、リーダーシップを会社の成長と戦略的マイルストーンに合わせました。
AIアラインメントにおけるグッドハートの法則の測定
OpenAI は、AI モデルにおける代理目的の最適化が真の目的の性能低下（グッドハートの法則）を引き起こす可能性を検証し、ベスト・オブ・n サンプリングを分析手法として提案しています。
CLIP潜在変数を用いた階層的テキスト条件付き画像生成
OpenAIは、テキストからCLIP画像埋め込みを生成するプライアと、その埋め込みから画像を生成するデコーダの二段階生成モデルを導入し、多様性の向上とゼロショット画像操作を実現しました。
OpenAIによる算数の文章題の解決とGSM8Kデータセット
OpenAIは、トレーニング済みの検証器を使用して、微調整されたGPT-3のほぼ2倍の精度で小学校レベルの算数の文章題を解決するシステムを開発しました。9〜12歳の子どもの60%の精度と比較して、55%の精度を達成しました。
OpenAI 人間のフィードバックを使った書籍の要約 (2021)
OpenAIは、人間のフィードバックからの強化学習と再帰的タスク分解を組み合わせた技術を導入し、評価が難しいタスクにおけるAIの監督というアライメントの課題に対処しながら、書籍全体の要約を生成しました。
コードでトレーニングされた大規模言語モデルの評価: OpenAI Codex
OpenAIは、GitHubのコードで微調整されたGPTモデルであるCodexを導入しました。これは、HumanEval問題の28.8%を1回の試行で解決し、繰り返しサンプリングを使用すると最大70.2%を解決します。
OpenAI Scholars 2021: 最終プロジェクト
OpenAIは、2021 Scholarsプログラムの最終プロジェクトを発表しました。多様な研究者グループによるスケーリング法則、報酬モデリング、強化学習の研究が特徴です。
Will Hurd が OpenAI の取締役会に加入
OpenAI は、公共政策の専門知識を技術的な AI 開発と統合するために、元米国下院議員の Will Hurd を取締役会に任命しました。
GPT-3 API Ecosystem and Application Growth
OpenAIは、300以上のアプリケーションと数万人の開発者が、多様な業界においてGPT-3を利用し、1日平均45億語を生成していると報告しています。
CLIPにおけるマルチモーダル・ニューロン
OpenAIは、CLIPにおいて、提示されたものが文字通りか、記号的か、あるいは概念的かに関わらず、同じ概念に反応するニューロンを発見しました。これは、人間の脳に見られるマルチモーダル・ニューロンを反映しています。
大規模言語モデルの能力、限界、および社会的影響の理解
OpenAIは、GPT-3およびその他の大規模言語モデルに関連する技術的境界と社会的リスクを探求する、多角的なワークショップの概要をまとめています。
OpenAI が Kubernetes を 7,500 ノードにスケール
OpenAI は単一の Kubernetes クラスタを 7,500 ノードにスケールし、機械学習研究向けのシンプルでスケーラブルなインフラを提供しました。ネットワーク、API サーバー負荷、モニタリングの課題を克服しています。
CLIP: テキストと画像を接続する
OpenAIは、多様なデータセットにわたってゼロショット画像分類を可能にするため、自然言語の監督を通じて視覚的概念を学習するニューラルネットワークであるCLIPを発表しました。
DALL·E: テキストから画像を生成
OpenAIは、画像とテキストを単一のトークンストリームとして扱うことで、テキストの説明から多様な画像を生成できる120億パラメータのトランスフォーマーモデルであるDALL·Eを発表しました。
OpenAI 組織アップデート 2020年12月
OpenAIは、リサーチ担当VPであるDario Amodeiの離脱と、セーフティとプロダクト開発をより良く統合するためにMira Muratiをリサーチ、プロダクト、およびパートナーシップ担当SVPに任命したことを発表しました。
OpenAIがGPT-3テクノロジーをマイクロソフトにライセンス供与
OpenAIは、サードパーティ開発者向けの独立したAPIアクセスを維持しながら、マイクロソフト製品およびサービスへの統合のためにGPT-3言語モデル技術をマイクロソフトにライセンス供与しました。
自動定理証明のための生成言語モデリング
OpenAIは、Metamath形式化言語のために設計されたTransformerベースの言語モデルであるGPT-fを導入し、Metamathのメインライブラリに新しい証明を正常に寄与させました。
人間フィードバックを使った要約の学習
OpenAIは、人間フィードバックからの強化学習（RLHF）により、教師あり学習のみで訓練されたはるかに大きなモデルよりも小さな言語モデルがテキスト要約において優れていることを示しています。
OpenAI Scholars 2020 Final Projects
OpenAIは、2020年のScholarsプログラムの最終プロジェクトを公開し、ニューラルネットワークの解釈可能性、強化学習、セマンティックパーシング、および医療AIにおける研究を紹介しました。
OpenAI Procgen and MineRL コンペティション
OpenAIは、強化学習のサンプル効率と汎化性能を向上させるために、Procgen BenchmarkとMineRLを使用した2つのNeurIPS 2020コンペティションを共同開催しています。
Image GPT
OpenAIのImage GPT (iGPT) は、ピクセルシーケンス上で訓練されたtransformerモデルが、ドメイン固有のアーキテクチャの事前知識なしに、一貫性のある画像を生成し、競争力のある教師なし視覚的特徴を学習できることを示しています。
OpenAI API リリース
OpenAIは、GPT-3ファミリーのモデルへのアクセスを提供し、多様なAI搭載アプリケーションの開発を可能にする、汎用的なテキストイン・テキストアウトAPIをリリースしました。
OpenAI GPT-3: 言語モデルをFew-Shot Learnerとして活用する
OpenAIは、タスク固有のファインチューニングを必要とせずに、多様なNLPタスクにおいて強力なFew-Shot性能を示す、1750億個のパラメータを持つ自己回帰型言語モデルGPT-3を導入しました。
OpenAI AIと効率性の分析
OpenAIの分析によれば、アルゴリズムの進歩により、2012年以降、ニューラルネットワークを同じ性能レベルに訓練するために必要な計算量は、16ヶ月ごとに2倍ずつ減少しています。
OpenAI Jukebox
OpenAI Jukeboxは、ジャンル、アーティスト、歌詞に条件付けられた、原始的な歌唱も含む生のオーディオ音楽を生成できるニューラルネットワークです。
OpenAI: AI開発における検証可能性の向上
OpenAIと複数の機関からなる連合は、競争による手抜きを防ぐために、AIシステムが表明された倫理原則や安全基準に従っていることをステークホルダーが検証するのを助ける10個のメカニズムを提案しています。
OpenAI Microscope: ニューラルネットワークの解釈可能性のためのツール
OpenAI Microscopeは、ニューラルネットワークのリバースエンジニアリングに関する研究を加速させるために、いくつかの一般的なビジョンモデル内のすべてのニューロンを体系的に可視化する可視化ツールです。
OpenAI、PyTorchを標準化
OpenAIは、研究生産性を向上させ、生成モデリングの反復時間を短縮するために、ディープラーニング・フレームワークをPyTorchに標準化しました。
OpenAI Scaling Laws for Neural Language Models
OpenAIの研究者は、言語モデルの性能がモデルのサイズ、データセットのサイズ、および計算量と予測可能なべき乗則の関係に従うことを発見し、これによりトレーニングリソースの最適な配分が可能になります。
OpenAI Five: Dota 2 強化学習
OpenAI Fiveは、eスポーツのゲームで世界チャンピオンを破った最初のAIシステムであり、大規模な自己対戦による強化学習が、複雑で連続的な状態・行動空間において超人的なパフォーマンスを達成できることを証明しています。
OpenAI Deep Double Descent
OpenAIの研究者は、CNNs、ResNets、およびtransformersが、モデルのサイズ、データサイズ、または学習時間が大きくなるにつれて、性能が向上し、劣化し、再び向上するというdouble descent（二重降下）現象を示すことを実証しました。
OpenAI Procgen Benchmark リリース
OpenAIは、強化学習エージェントが未知のレベルに対してスキルを汎化する能力を測定するために設計された、16個の手続き型生成環境のスイートであるProcgen Benchmarkをリリースしました。
OpenAI 深層強化学習における安全な探索のベンチマーク化
OpenAIは、高次元の連続制御環境における安全な探索のための主要な形式手法として、制約付き強化学習を標準化するためにSafety Gymベンチマークスイートを導入しました。
OpenAI Safety Gym リリース
OpenAIは、学習中に強化学習エージェントが安全制約を遵守する能力を測定し、改善するための環境とツールのスイートであるSafety Gymをリリースしました。
GPT-2 1.5B リリースノート
OpenAIは、段階的リリースプロセスを完了し、責任あるAI出版のケーススタディを提供するために、15億パラメータのGPT-2最大バージョンをリリースしました。
OpenAIがロボットハンドでルービックキューブを解く
OpenAIは、Automatic Domain Randomization (ADR)と呼ばれる新しい手法を用いて、シミュレーションで学習したスキルを物理的な世界へと転送するために、人間のようなロボットハンドを使用してルービックキューブを解くニューラルネットワークのペアを訓練しました。
OpenAI Scholars 2020 Program Applications
OpenAIは、過小評価されているグループに属する8名に対し、ディープラーニングを学習し、プロジェクトをオープンソース化するための奨学金とメンターシップを提供する4ヶ月間のプログラム、第3期OpenAI Scholarsの応募受付を開始しました。
人間の好みに基づくGPT-2のファインチューニング
OpenAIは、スタイリッシュなテキスト継続と要約の向上を目指して、人間のフィードバックを用いて774MパラメータのGPT-2モデルをファインチューニングしました。その過程で、人間のラベル付け作業者が、新規な合成よりも正確なコピーを好む傾向があることを発見しました。
OpenAI マルチエージェント相互作用から生じるツール使用の発現
OpenAIの研究者は、シミュレートされた隠れんぼゲームでプレイするエージェントが、マルチエージェント共適応とセルフプレイを通じて、6つの異なるレベルの複雑なツール使用と戦略を開発したことを発見しました。
OpenAI、予期せぬ敵対的攻撃に対する堅牢性をテスト中
OpenAIは、ニューラルネットワーク分類器が、トレーニング中に遭遇していない敵対的攻撃に対してどの程度うまく防御できるかを評価するために、新しい指標であるUnforeseen Attack Robustness (UAR)を導入しました。
GPT-2 6ヶ月後のフォローアップ
OpenAIは774MパラメータのGPT-2モデルをリリースし、合成テキストのリスク、検出の難しさ、および大規模言語モデルの段階的なリリース戦略の必要性に関する教訓を共有しました。
OpenAI Learning Day: クロスファンクショナルな専門性を育む
OpenAIは、毎週木曜日に専用の自己学習日であるLearning Dayを導入し、クロスファンクショナルな技術的成長を促進し、職業的停滞を防いでいます。