OpenAI Scholars 2020 최종 프로젝트
OpenAI는 2020 Scholars 프로그램의 최종 프로젝트를 발표했으며, 신경망 해석 가능성, 강화 학습, 의미 분석, 의료 AI 분야의 연구를 선보였습니다.
Reformer: 메모리 효율적인 트랜스포머로 언어 모델링의 한계를 넘어서
Hugging Face에서 2020년 7월에 도입된 Reformer 모델은 LSH 셀프 어텐션, 로컬 셀프 어텐션, 청크된 피드 포워드 레이어, 가역적 잔차 레이어, 축 위치 인코딩을 결합하여 8 GB 미만의 RAM으로 최대 50만 토큰 길이의 시퀀스에 대한 훈련을 가능하게 합니다.
OpenAI Procgen 및 MineRL 경연 대회
OpenAI는 강화 학습의 샘플 효율성 및 일반화 능력을 향상시키기 위해 Procgen Benchmark와 MineRL을 사용하는 두 개의 NeurIPS 2020 경연 대회를 공동 주최합니다.
Image GPT
OpenAI의 Image GPT (iGPT)는 픽셀 시퀀스에 대해 학습된 transformer 모델이 도메인 특화된 architectural priors 없이도 일관성 있는 이미지를 생성하고 경쟁력 있는 비지도 학습 시각적 특징을 학습할 수 있음을 보여줍니다.
OpenAI API 출시
OpenAI는 다양한 AI 기반 애플리케이션 개발을 가능하게 하기 위해 GPT-3 제품군 모델에 대한 접근을 제공하는 범용 text-in, text-out API를 출시했습니다.
OpenAI GPT-3: Language Models as Few-Shot Learners
OpenAI는 작업별 미세 조정 없이 다양한 NLP 작업에 걸쳐 강력한 퓨샷 성능을 보여주는 1750억 개의 파라미터를 가진 자기회귀 언어 모델인 GPT-3를 도입했습니다.
OpenAI AI 및 효율성 분석
OpenAI의 분석에 따르면, 알고리즘적 진보가 2012년 이후 16개월마다 필요한 컴퓨팅 양을 절반으로 줄여 신경망을 동일한 성능 수준으로 훈련하는 데 드는 비용을 감소시켰다고 밝혔습니다.
OpenAI Jukebox
OpenAI Jukebox는 장르, 아티스트, 가사를 조건으로 하여 기초적인 노래를 포함한 원시 오디오 음악을 생성할 수 있는 신경망입니다.
OpenAI: AI 개발의 검증 가능성 향상
OpenAI와 다기관 연합은 경쟁적인 편법 사용을 방지하기 위해 이해관계자들이 AI 시스템이 명시된 윤리 원칙과 안전 표준을 준수하는지 검증하는 데 도움이 되는 10가지 메커니즘을 제안합니다.
OpenAI Microscope: 신경망 해석 가능성을 위한 도구
OpenAI Microscope는 여러 흔히 연구되는 시각 모델의 모든 뉴런을 체계적으로 시각화하여 신경망의 역공학에 대한 연구를 가속화하는 시각화 도구입니다.
Hugging Face 텍스트 생성 디코딩 방법 가이드
Hugging Face는 Greedy Search, Beam Search, Sampling (Top-K 및 Top-p)를 포함한 자기회귀 디코딩 전략에 대한 포괄적인 개요를 제공하여 Transformers에서 개방형 언어 생성을 최적화합니다.
Transformers와 Tokenizers를 사용하여 처음부터 언어 모델 학습시키기
Hugging Face는 Transformers와 Tokenizers 라이브러리를 사용하여 에스페란토 언어를 위한 EsperBERTo를 생성하는 과정을 통해, 새로운 언어 모델을 처음부터 학습시키는 방법에 대한 포괄적인 가이드와 시연을 제공합니다.
OpenAI, PyTorch로 표준화
OpenAI는 생성 모델링의 연구 생산성을 높이고 반복 시간을 단축하기 위해 딥러닝 프레임워크를 PyTorch로 표준화했습니다.
OpenAI 신경망 언어 모델을 위한 스케일링 법칙
OpenAI 연구원들은 언어 모델의 성능이 모델 크기, 데이터셋 크기, 컴퓨팅 양과 예측 가능한 멱법칙 관계를 따른다는 것을 발견했으며, 이를 통해 훈련 리소스를 최적으로 할당할 수 있습니다.
OpenAI Five: Dota 2 강화 학습
OpenAI Five는 e스포츠 게임에서 세계 챔피언을 물리친 최초의 AI 시스템으로, 대규모 셀프 플레이 강화 학습이 복잡하고 연속적인 상태-행동 공간에서 초인적인 성능을 달성할 수 있음을 보여줍니다.
OpenAI 딥 더블 디센트
OpenAI 연구원들은 CNN, ResNet, 트랜스포머가 모델 크기, 데이터 크기, 또는 학습 시간이 증가함에 따라 성능이 개선되었다가 악화되었다가 다시 개선되는 더블 디센트 현상을 보임을 보여준다.
OpenAI Procgen Benchmark 출시
OpenAI는 강화 학습 에이전트가 보지 못한 레벨로 기술을 일반화하는 능력을 측정하기 위해 설계된 16개의 절차적 생성 환경 세트인 Procgen Benchmark를 출시했습니다.
OpenAI 딥러닝 강화학습에서의 안전한 탐색 벤치마킹
OpenAI는 고차원 연속 제어 환경에서 안전한 탐색을 위한 주요 형식으로 제약 조건이 있는 강화학습을 표준화하기 위해 Safety Gym 벤치마크 제품군을 도입합니다.
OpenAI Safety Gym 출시
OpenAI는 훈련 과정에서 강화 학습 에이전트가 안전 제약 조건을 준수할 수 있는 능력을 측정하고 개선하기 위해 설계된 환경 및 도구 모음인 Safety Gym을 출시했습니다.
GPT-2 1.5B 릴리스 노트
OpenAI는 15억 파라미터 규모의 가장 큰 GPT-2 버전을 출시하여, 책임 있는 AI 게시를 위한 사례 연구를 제공함으로써 단계적 출시 프로세스를 완료했습니다.
OpenAI 로봇 손으로 루빅스 큐브 풀기
OpenAI는 인간과 유사한 로봇 손을 사용하여 루빅스 큐브를 풀 수 있는 신경망 쌍을 훈련시켰으며, 시뮬레이션에서 학습한 기술을 실제 세계로 전이하기 위해 새로운 기술인 Automatic Domain Randomization(ADR)을 활용했습니다.
OpenAI Scholars 2020 Program Applications
OpenAI는 소외 계층 출신의 8명에게 딥러닝을 공부하고 프로젝트를 오픈 소스로 공개할 수 있도록 지원금과 멘토링을를 제공하는 4개월 프로그램인 세 번째 OpenAI Scholars 기수 모집을 시작했습니다.
인간 선호도를 기반으로 한 GPT-2 미세 조정
OpenAI는 인간 피드백을 사용하여 774M 파라미터 GPT-2 모델을 미세 조정하여 스타일적 텍스트 이어쓰기와 요약을 개선했으며, 인간 라벨러가 종종 새로운 합성보다 정확한 복사를 선호한다는 것을 발견했습니다.
OpenAI 에이전트 간 상호작용을 통한 emergent 툴 사용
OpenAI 연구원들은 시뮬레이션된 숨바꼭질 게임에서 에이전트가 멀티에이전트 공동 적응과 self-play를 통해 여섯 가지 distinct한 수준의 복잡한 툴 사용과 전략을 개발했다는 것을 발견했다.
OpenAI 예기치 못한 적대적 공격에 대한 강건성 테스트
OpenAI는 신경망 분류기가 훈련 과정에서 접하지 못한 적대적 공격에 대해 얼마나 잘 방어하는지 평가하기 위해 새로운 지표인 예기치 못한 공격 강건성(Unforeseen Attack Robustness, UAR)을 도입했습니다.
GPT-2 6개월 후속 보고서
OpenAI는 774M 파라미터 GPT-2 모델을 출시하고 합성 텍스트의 위험성, 탐지의 어려움, 그리고 대규모 언어 모델을 위한 단계적 출시 전략의 필요성에 대한 교훈을 공유했습니다.
OpenAI Learning Day: Cultivating Cross-Functional Expertise"}],
OpenAI는 다학제적 기술 성장을 촉진하고 전문적 정체를 방지하기 위해 매주 목요일을 전용 자기 주도 학습일인 'Learning Day'를 시행하고 있습니다.
Microsoft와 OpenAI의 AGI 개발을 위한 파트너십
Microsoft는 유익한 인공 일반 지능(AGI)의 창출을 향해 확장 가능한 Azure 기반의 하드웨어 및 소프트웨어 플랫폼을 공동 개발하기 위해 OpenAI에 10억 달러를 투자했습니다.
OpenAI AI 안전 협력을 위한 프레임워크
OpenAI는 산업 전반에 걸쳐 안전 규범 및 표준에 대한 협력을 촉진함으로써 AI 개발에서의 집단 행동 문제를 방지하기 위한 네 가지 전략을 제안합니다.
OpenAI 로보틱스 심포지엄 2019
OpenAI는 2019년 4월 27일에 첫 번째 로보틱스 심포지엄을 개최하여 로봇과 기계 학습 분야의 전문가들을 모아 학습하는 로봇 개발을 논의했습니다.
OpenAI Scholars 2019 최종 프로젝트
OpenAI는 2019 OpenAI Scholars 프로그램의 최종 프로젝트 요약을 발표했으며, 다양한 분야에서 딥러닝, 강화 학습, NLP의 다양한 응용 사례를 선보였습니다.
OpenAI Fellows Fall 2018 Final Projects
OpenAI는 두 번째 OpenAI Fellows 기수가 완료되었음을 발표하였으며, 6명의 참가자 전원이 6개월간의 도제 기간을 거친 후 기술 스태프 정규직으로 전환되었습니다.
OpenAI 연구: 섭동 유형 간 적대적 강건성 전이
OpenAI 연구원들은 적대적 강건성이 서로 다른 섭동 유형 간에 일관되게 전이되지 않는다는 것을 발견했으며, 이는 방어 기법이 진정으로 효과적이려면 다양한 공격 벡터에 대해 평가되어야 함을 시사합니다.
OpenAI MuseNet
MuseNet은 수십만 개의 MIDI 파일을 통해 화성, 리듬, 스타일의 패턴을 학습함으로써 10가지 악기를 사용하여 4분 길이의 음악 작곡을 생성할 수 있는 심층 신경망입니다.
OpenAI Sparse Transformer
OpenAI는 알고리즘 복잡도를 $O(N^2)$에서 $O(N \sqrt{N})$으로 줄여 이전 Transformer보다 30배 더 긴 시퀀스를 모델링할 수 있는 재구성된 어텐션 메커니즘을 사용하는 심층 신경망인 Sparse Transformer를 도입했습니다.
OpenAI Five가 Dota 2 세계 챔피언을 물리치다
OpenAI Five는 라이브 라이브스트리밍 경기에서 e스포츠 세계 챔피언을 처음으로 물리친 AI가 되었으며, Dota 2 팀 OG와의 두 번 연속 경기에서 승리했습니다.
OpenAI Five 결승 이벤트 발표
OpenAI는 2019년 4월 13일에 OpenAI Five의 최종 라이브 이벤트를 발표하여, 자사의 Dota 2 AI의 역량, 확장성, 인간-AI 상호작용 능력을 보여줄 예정입니다.
에너지 기반 모델을 위한 암시적 생성 및 일반화 방법론
OpenAI 연구원들은 에너지 기반 모델(EBMs)을 위한 안정적이고 확장 가능한 학습 방법을 개발하여, 가능도 기반 모델에 비해 높은 품질의 이미지 생성과 우수한 분포 외(out-of-distribution) 일반화 능력을 달성했습니다.
OpenAI LP: 제한 이익 구조로 전환
OpenAI는 컴퓨팅과 인재 확보를 위한 수십억 달러 규모의 자본을 조달하면서 안전한 AGI라는 주요 사명이 인류 전체에 혜택을 주도록 보장하는 하이브리드 제한 이익 회사인 OpenAI LP 설립을 발표했습니다.
OpenAI Activation Atlases
OpenAI와 Google 연구원들은 뉴런 간의 상호작용을 매핑하여 신경망이 개념을 어떻게 표현하고 의사결정의 약점을 식별하는지 보여주는 시각화 기술인 Activation Atlases를 소개했습니다.
Neural MMO: A Massively Multiagent Game Environment
OpenAI는 강화 학습 에이전트들을 위한 지속적이고 대규모인 환경인 Neural MMO를 출시했습니다. 이는 인구 규모의 증가와 종의 다양성이 어떻게 탐색과 틈새 형성을 유도하는지 보여줍니다.
OpenAI Spinning Up in Deep RL 워크숍 리뷰
OpenAI는 Spinning Up in Deep RL 리소스 패키지를 기반으로 워크숍을 개최하여 다양한 참가자 그룹을 위한 강화 학습에서 멘토링과 기술 개발을 확장했습니다.
AI 안전에는 사회과학자가 필요합니다
OpenAI는 장기적인 AI 안전 및 정렬을 위해 인간의 인지적 편향과 인간 가치의 복잡성을 고려하기 위해 사회과학의 통합이 필요하다고 주장합니다.
OpenAI GPT-2 출시 및 영향
OpenAI는 15억 파라미터 비지도 언어 모델인 GPT-2를 도입했는데, 이는 제로샷 작업 수행과 일관된 텍스트 생성이 가능하며, 오용 위험을 완화하기 위해 단계적 출시 전략을 시행했습니다.
OpenAI 연구: 강건한 분류에서의 계산적 한계
OpenAI 연구원들은 강건한 분류기가 존재하지만 계산적으로 학습하는 것이 불가능한 분류 작업을 식별하였으며, 강건한 학습의 난이도와 암호학적 프리미티브의 존재를 연결했습니다.
OpenAI Summer Fellows 2018 최종 프로젝트
OpenAI의 2018 Summer Fellows는 강화 학습 일반화, 분산 훈련 패턴, 생성 모델 표현력에 중점을 둔 연구 프로젝트를 완료했습니다.
AI 훈련 규모 확장: 그래디언트 노이즈 스케일을 통한 병렬화 가능성 예측
OpenAI는 네트워크 그래디언트의 신호 대 잡음 비율을 정량화하는 통계적 지표인 그래디언트 노이즈 스케일이 다양한 작업에서 신경망 훈련의 최대 유용 배치 크기를 예측할 수 있음을 발견했습니다.
강화학습에서 일반화 정량화
OpenAI는 강화학습에서 학습된 기술을 새로운 상황으로 전이하는 에이전트의 능력을 정량화하고 향상시키기 위해 설계된 절차적 생성 훈련 환경인 CoinRun을 소개합니다.
OpenAI 딥 RL 스피닝 업
OpenAI는 딥 강화 학습을 마스터할 수 있도록 코드, 튜토리얼 및 문서를 제공하는 교육 자료인 Spinning Up in Deep RL을 출시했습니다.
OpenAI 에너지 함수로 개념 학습
OpenAI는 에너지 함수를 사용하여 에이전트가 학습하고 개념을 추출할 수 있는 기술을 개발했으며, 이를 통해 재학습 없이도 서로 다른 환경 간에 개념을 전이할 수 있습니다.