✷ アーカイブ · ラボ 11 拠点 · ディスパッチ 3,432 件
ラボ
毎朝十数個の公式ブログを開いて回る必要はありません。OpenAI、Anthropic、DeepMind などの一次発表を、要点を抜き出した形で。
OpenAI MuseNet
MuseNetは、数十万のMIDIファイルからハーモニー、リズム、スタイルのパターンを学習することで、10種類の楽器を用いて4分間の楽曲を構成できるディープニューラルネットワークです。
OpenAI Sparse Transformer
OpenAIは、アルゴリズムの計算複雑度を $O(N^2)$ から $O(N \sqrt{N})$ に削減することで、従来のTransformerよりも30倍長いシーケンスをモデリングできるように、アテンション・メカニズムを再構成した深層ニューラルネットワークであるSparse Transformerを導入しました。
OpenAI FiveがDota 2の世界チャンピオンを破った
OpenAI Fiveは、Dota 2チームOGに対して2試合連続で勝利し、ライブ配信中の試合でeスポーツの世界チャンピオンを破った初のAIとなりました。
OpenAI Five Finals Event Announcement
OpenAIは、Dota 2 AIの能力、スケーラビリティ、および人間とAIの相互作用の能力を示すために、2019年4月13日にOpenAI Fiveの最終ライブイベントを開催すると発表しました。
エネルギーベースモデルのための暗黙的生成および汎化手法
OpenAIの研究者は、エネルギーベースモデル（EBM）の安定かつスケーラブルな学習手法を開発し、尤度ベースのモデルと比較して、高品質な画像生成と優れた分布外（out-of-distribution）の汎化性能を達成しました。
OpenAI Scholars 2019 プログラム参加者
OpenAIは、強化学習、自然言語処理、および生成モデルに焦点を当てた、多角的な研究者のグループである2019年度のScholars（奨学生）のコホートを発表しました。
OpenAI LP：上限利益構造への移行
OpenAIは、計算資源と人材のために数十億ドルの資本を調達しつつ、安全なAGIという主要ミッションが全人類に利益をもたらすことを保証するハイブリッド上限利益会社であるOpenAI LPの設立を発表しました。
OpenAI Activation Atlases
OpenAIとGoogleの研究者は、ニューロン間の相互作用をマッピングする可視化技術であるActivation Atlasesを導入しました。これにより、ニューラルネットワークがどのように概念を表現し、意思決定の弱点を特定する方法を明らかにします。
Neural MMO: マルチエージェント大規模ゲーム環境
OpenAIは、持続的かつ大規模な環境であるNeural MMOをリリースしました。この環境では、強化学習エージェントにおいて、人口規模の増加と種の多様性が探索とニッチ形成を促進することを示しています。
OpenAI Spinning Up in Deep RL ワークショップ レビュー
OpenAIは、多様な参加者に対し、強化学習におけるメンターシップとスキル開発をスケールアップするために、Spinning Up in Deep RLリソースパッケージに基づいたワークショップを開催しました。
AIの安全性には社会科学者が必要
OpenAIは、長期的なAIの安全性と整合性のために、人間の認知バイアスと人間の価値の複雑さを考慮に入れるため、社会科学の統合が必要だと主張している。
OpenAI GPT-2 リリースとその影響
OpenAIは、ゼロショットタスクパフォーマンスと一貫したテキスト生成が可能な15億パラメータの教師なし言語モデルであるGPT-2を発表し、悪用リスクを軽減するため段階的リリース戦略を実施しました。
OpenAIの研究: 堅牢な分類における計算上の限界
OpenAIの研究者たちは、堅牢な分類器が存在するものの計算上学習することが不可能な分類タスクを特定し、堅牢な学習の困難さと暗号プリミティブの存在を関連付けました。
OpenAI Summer Fellows 2018 Final Projects
OpenAIの2018年Summer Fellowsは、強化学習の汎化、分散型訓練のパターン、および生成モデルの表現力に焦点を当てた研究プロジェクトを完了しました。
AIトレーニングのスケール方法：勾配ノイズスケールによる並列化可能性の予測
OpenAI は、ネットワーク勾配の信号対雑音比を定量化する統計指標である勾配ノイズスケールが、さまざまなタスクにわたってニューラルネットワークのトレーニングにおける最大有用バッチサイズを予測できることを発見しました。
強化学習における汎化の定量化
OpenAIは、強化学習においてエージェントが学習したスキルを新しい状況に転移させる能力を定量化し向上させることを目的とした、手続き的に生成されたトレーニング環境であるCoinRunを紹介します。
OpenAI の Deep RL 向け Spinning Up
OpenAI は、実務者が深層強化学習を習得できるように、コード、チュートリアル、ドキュメントを提供する教育リソース「Spinning Up in Deep RL」をリリースしました。
エネルギー関数を用いたOpenAIの概念学習
OpenAIは、エネルギー関数を用いてエージェントが概念を学習・抽出し、再訓練なしで異なる環境間で転送できる手法を開発しました。
OpenAI プラン・オンライン・ラーニング・オフライン（POLO）フレームワーク
OpenAI は、ローカルなモデルベース制御とグローバルな価値関数学習を組み合わせ、複雑なシミュレート制御タスクにおける効率的な学習を可能にする Plan Online Learn Offline（POLO）フレームワークを紹介します。
OpenAI ランダムネットワーク蒸留 (RND) 強化学習用
OpenAI は、好奇心駆動型探索手法であるランダムネットワーク蒸留 (RND) を導入し、初めて人間のデモンストレーションやエミュレータ状態へのアクセスを使用せずに、Montezuma's Revenge で平均的な人間のパフォーマンスを上回りました。
OpenAI 反復増幅による複雑な目標学習
OpenAI は、タスクをより単純なサブタスクに分解してトレーニングシグナルを生成することで、複雑で人間のスケールを超える目標の指定を可能にする AI 安全技術として、反復増幅を提案しています。
OpenAI Scholars 2019 プログラム発表
OpenAIはOpenAI Scholars第2期の応募を開始し、過小代表グループの個人に奨学金とメンターシップを提供してディープラーニングを学び、プロジェクトをオープンソース化します。
OpenAIフェローズ 2019年冬プログラムとインターン 2019年夏プログラム
OpenAIは、2019年冬のフェローズプログラムと2019年夏のインターンシップの応募受付開始を発表しました。これらは、多様なバックグラウンドを持つ研究者や学生をAI研究に統合することを目的としています。
FFJORD: スケーラブルな可逆生成モデルのためのフリーフォーム連続ダイナミクス
OpenAIは、Hutchinsonのトレース推定器を使用して制限のないニューラルネットワークアーキテクチャを可能にし、スケーラブルな密度推定を実現する連続時間の可逆生成モデルであるFFJORDを紹介します。
OpenAI Scholars 2018 最終プロジェクト
OpenAIは、2018年のScholarsプログラムの最終プロジェクトを紹介するショーケースを公開し、音楽生成、直感的な物理学、自然言語処理における機械学習の多様な応用例を取り上げました。
OpenAI Five: The International 2018 の結果
OpenAI FiveはThe International 2018で世界クラスのプロDota 2プレイヤーと対戦し、'Real Dota' ルール下で両試合とも敗北したものの、高レベルのゲームプレイを示しました。
OpenAI 大規模好奇心駆動学習の研究
OpenAI の研究者は、予測誤差に基づく内在的好奇心報酬のみで訓練されたエージェントが、手作りの外部報酬を一切使用せずに 54 のベンチマーク環境で高いパフォーマンスを達成できることを実証しました。
OpenAI Five ベンチマーク結果
OpenAI Five は 99.95 パーセンタイルの Dota プレイヤーのチームに対してベストオブスリーシリーズで勝利し、複雑さと不確実性に対処する高度な AI 能力を示しました。
OpenAI Dactyl: ドメインランダム化による器用さの学習
OpenAIは、シミュレーションで人間の手に似たロボットハンドを訓練し、高い器用さで物理的な物体を操作できるシステム「Dactyl」を開発し、微調整なしでそのスキルを実世界に転送しました。
OpenAI 変分オプション発見アルゴリズム
OpenAIは、強化学習エージェントにおける多様な行動モードの発見を安定化させるために、Variational Autoencoding Learning of Options by Reinforcement（VALOR）とカリキュラム学習アプローチを導入します。
OpenAI Scholars 2018: 私たちの奨学生をご紹介
OpenAIは2018年のScholarsコホートを発表し、強化学習、言語モデリング、AIと芸術の交差点など多様な分野に取り組む研究者グループを紹介しました。
OpenAI Five ベンチマーク
OpenAIは、拡張されたヒーロープールと更新されたゲームメカニクスを備えたOpenAI Fiveのベンチマークマッチを発表し、AIを上位パーセンタイルの人間プレイヤーとテストします。
Glow: より良い可逆的生成モデル
OpenAIは、可逆的1x1畳み込みを用いたフロー型生成モデルGlowを紹介する。Glowは高解像度画像を生成し、正確な潜在変数推論と効率的なサンプリングを実現する。
単一のデモンストレーションからMontezuma’s Revengeを学ぶ
OpenAIは、単一の人間デモンストレーションを用いて開始状態の逆カリキュラムを作成し、Montezuma’s Revengeで記録的な高得点74,500点を達成するRLエージェントを訓練しました。
OpenAI Five
OpenAI Fiveは、Dota 2におけるセルフプレイで訓練された5つのニューラルネットワークからなるチームで、アマチュア人間チームに勝利し始め、スケールアップされた強化学習が根本的なアルゴリズムの進歩なくても長期的で部分的に観測されるタスクに対処できることを示した。
OpenAI Retro コンテスト結果
OpenAIは初めてのRetroコンテストを終了し、Sonic the Hedgehog向けの最高性能AIエージェントは、PPOやRainbow DQNといった既存アルゴリズムをチューニングまたは拡張することで開発されました。
OpenAI マルチエージェントシステムにおける学習ポリシー表現
OpenAIは、エージェントモデリングを表現学習問題として扱い、最小限の相互作用データでマルチエージェントシステムにおけるエージェント行動を理解するための一般的な学習フレームワークを導入しました。
OpenAIの教師なし学習による言語理解の向上
OpenAIは、教師なし言語モデリングで事前学習し、その後小規模な教師ありデータセットでファインチューニングしたTransformerベースのモデルが、常識推論を含む多様な言語タスクで最先端の結果を達成できることを示しました。
GamePad: 定理証明のための学習環境
OpenAIは、Coq証明アシスタント内で定理証明に機械学習手法を適用し、タクティック予測と位置評価を自動化することを目的としたシステム、GamePadを導入しました。
OpenAIフェローズプログラム 2018年秋
OpenAIは2018年秋にフェローズプログラムを開始し、正式なAIのバックグラウンドを持たない個人が人工知能研究へ移行できる道筋を提供しました。
OpenAI Gym Retro リリース
OpenAIは、エージェントの汎化研究を可能にするため、複数のクラシックコンソールにわたって利用可能なゲームライブラリを1,000本以上に拡大した強化学習プラットフォーム、Gym Retroのフルバージョンをリリースしました。
OpenAI AI と計算分析
OpenAI の分析によると、最大規模の AI 訓練に使用される計算量は 2012 年以降指数的に増加しており、3.4 か月ごとに倍増し、ムーアの法則をはるかに上回っています。
議論によるAI安全性
OpenAIは、AIエージェントにトピックについて議論させる安全技術を提案し、人間が認知能力を超えるタスクを実行するシステムを監督できるようにします。
OpenAI 進化的ポリシー勾配 (EPG)
OpenAI は、損失関数を進化させ、タスクファミリー内の新しいタスクへ一般化できるようにするメタラーニング手法である Evolved Policy Gradients (EPG) を紹介します。
OpenAI Gotta Learn Fast ベンチマーク
OpenAIは、Sonic the Hedgehogのビデオゲームフランチャイズを基にした新しい強化学習ベンチマークを導入し、転移学習と少数ショット学習の性能を測定します。
OpenAI Retro コンテストと Gym Retro のリリース
OpenAI は、未見のビデオゲームレベルに対する強化学習の汎化を測定する Retro コンテストを開始し、30 本の SEGA Genesis と 62 本の Atari 2600 ゲームを Gym に統合したプラットフォームである Gym Retro をリリースしました。
OpenAI のアクション依存因子分解ベースラインによるポリシー勾配の分散削減
OpenAI の研究者は、勾配推定の分散を低減し、高次元アクション空間での学習を高速化するバイアスフリーなアクション依存ベースラインをポリシー勾配法向けに開発しました。
OpenAI OT-GAN: 最適輸送を用いたGANの改善
OpenAIは、トレーニングの安定性と画像生成品質を向上させる新しいミニバッチエネルギー距離指標を使用した、生成的敵対ネットワークのバリアントであるOptimal Transport GAN（OT-GAN）を紹介します。
OpenAIハッカソンレポート 2018年3月
OpenAIは2018年3月3日に初めてのハッカソンを開催し、AIコミュニティのメンバー100名がヘルスケア、AI安全性、強化学習にまたがるプロジェクトを開発しました。
一次階メタラーニングアルゴリズムについて
OpenAIは、二階微分を必要とせずにパラメータ初期化を最適化することで、エージェントが新しいタスクを迅速に学習できる一次階メタラーニングアルゴリズム「Reptile」を紹介します。