✷ 아카이브 · 디스패치 6,241건
모든 디스패치
AgentLensHQ가 기록한 모든 것 — AI 생태계 전반에서 압축.
OpenAI 예기치 못한 적대적 공격에 대한 강건성 테스트
OpenAI는 신경망 분류기가 훈련 과정에서 접하지 못한 적대적 공격에 대해 얼마나 잘 방어하는지 평가하기 위해 새로운 지표인 예기치 못한 공격 강건성(Unforeseen Attack Robustness, UAR)을 도입했습니다.
GPT-2 6개월 후속 보고서
OpenAI는 774M 파라미터 GPT-2 모델을 출시하고 합성 텍스트의 위험성, 탐지의 어려움, 그리고 대규모 언어 모델을 위한 단계적 출시 전략의 필요성에 대한 교훈을 공유했습니다.
OpenAI Learning Day: Cultivating Cross-Functional Expertise
OpenAI는 다학제적 기술 성장을 촉진하고 전문적 정체를 방지하기 위해 매주 목요일을 전용 자기 주도 학습일인 'Learning Day'를 시행하고 있습니다.
Microsoft와 OpenAI의 AGI 개발을 위한 파트너십
Microsoft는 유익한 인공 일반 지능(AGI)의 창출을 향해 확장 가능한 Azure 기반의 하드웨어 및 소프트웨어 플랫폼을 공동 개발하기 위해 OpenAI에 10억 달러를 투자했습니다.
OpenAI AI 안전 협력을 위한 프레임워크
OpenAI는 산업 전반에 걸쳐 안전 규범 및 표준에 대한 협력을 촉진함으로써 AI 개발에서의 집단 행동 문제를 방지하기 위한 네 가지 전략을 제안합니다.
OpenAI 로보틱스 심포지엄 2019
OpenAI는 2019년 4월 27일에 첫 번째 로보틱스 심포지엄을 개최하여 로봇과 기계 학습 분야의 전문가들을 모아 학습하는 로봇 개발을 논의했습니다.
OpenAI Scholars 2019 최종 프로젝트
OpenAI는 2019 OpenAI Scholars 프로그램의 최종 프로젝트 요약을 발표했으며, 다양한 분야에서 딥러닝, 강화 학습, NLP의 다양한 응용 사례를 선보였습니다.
OpenAI Fellows Fall 2018 Final Projects
OpenAI는 두 번째 OpenAI Fellows 기수가 완료되었음을 발표하였으며, 6명의 참가자 전원이 6개월간의 도제 기간을 거친 후 기술 스태프 정규직으로 전환되었습니다.
OpenAI 연구: 섭동 유형 간 적대적 강건성 전이
OpenAI 연구원들은 적대적 강건성이 서로 다른 섭동 유형 간에 일관되게 전이되지 않는다는 것을 발견했으며, 이는 방어 기법이 진정으로 효과적이려면 다양한 공격 벡터에 대해 평가되어야 함을 시사합니다.
OpenAI MuseNet
MuseNet은 수십만 개의 MIDI 파일을 통해 화성, 리듬, 스타일의 패턴을 학습함으로써 10가지 악기를 사용하여 4분 길이의 음악 작곡을 생성할 수 있는 심층 신경망입니다.
OpenAI Sparse Transformer
OpenAI는 알고리즘 복잡도를 $O(N^2)$에서 $O(N \sqrt{N})$으로 줄여 이전 Transformer보다 30배 더 긴 시퀀스를 모델링할 수 있는 재구성된 어텐션 메커니즘을 사용하는 심층 신경망인 Sparse Transformer를 도입했습니다.
OpenAI Five가 Dota 2 세계 챔피언을 물리치다
OpenAI Five는 라이브 라이브스트리밍 경기에서 e스포츠 세계 챔피언을 처음으로 물리친 AI가 되었으며, Dota 2 팀 OG와의 두 번 연속 경기에서 승리했습니다.
OpenAI Five 결승 이벤트 발표
OpenAI는 2019년 4월 13일에 OpenAI Five의 최종 라이브 이벤트를 발표하여, 자사의 Dota 2 AI의 역량, 확장성, 인간-AI 상호작용 능력을 보여줄 예정입니다.
에너지 기반 모델을 위한 암시적 생성 및 일반화 방법론
OpenAI 연구원들은 에너지 기반 모델(EBMs)을 위한 안정적이고 확장 가능한 학습 방법을 개발하여, 가능도 기반 모델에 비해 높은 품질의 이미지 생성과 우수한 분포 외(out-of-distribution) 일반화 능력을 달성했습니다.
OpenAI Scholars 2019 프로그램 참가자들
OpenAI는 강화학습, 자연어처리, 생성 모델에 초점을 맞춘 다학제적 연구자들로 구성된 2019년도 색슨스 코호트를 발표했다.
OpenAI LP: 제한 이익 구조로 전환
OpenAI는 컴퓨팅과 인재 확보를 위한 수십억 달러 규모의 자본을 조달하면서 안전한 AGI라는 주요 사명이 인류 전체에 혜택을 주도록 보장하는 하이브리드 제한 이익 회사인 OpenAI LP 설립을 발표했습니다.
OpenAI Activation Atlases
OpenAI와 Google 연구원들은 뉴런 간의 상호작용을 매핑하여 신경망이 개념을 어떻게 표현하고 의사결정의 약점을 식별하는지 보여주는 시각화 기술인 Activation Atlases를 소개했습니다.
Neural MMO: A Massively Multiagent Game Environment
OpenAI는 강화 학습 에이전트들을 위한 지속적이고 대규모인 환경인 Neural MMO를 출시했습니다. 이는 인구 규모의 증가와 종의 다양성이 어떻게 탐색과 틈새 형성을 유도하는지 보여줍니다.
OpenAI Spinning Up in Deep RL 워크숍 리뷰
OpenAI는 Spinning Up in Deep RL 리소스 패키지를 기반으로 워크숍을 개최하여 다양한 참가자 그룹을 위한 강화 학습에서 멘토링과 기술 개발을 확장했습니다.
AI 안전에는 사회과학자가 필요합니다
OpenAI는 장기적인 AI 안전 및 정렬을 위해 인간의 인지적 편향과 인간 가치의 복잡성을 고려하기 위해 사회과학의 통합이 필요하다고 주장합니다.
OpenAI GPT-2 출시 및 영향
OpenAI는 15억 파라미터 비지도 언어 모델인 GPT-2를 도입했는데, 이는 제로샷 작업 수행과 일관된 텍스트 생성이 가능하며, 오용 위험을 완화하기 위해 단계적 출시 전략을 시행했습니다.
OpenAI 연구: 강건한 분류에서의 계산적 한계
OpenAI 연구원들은 강건한 분류기가 존재하지만 계산적으로 학습하는 것이 불가능한 분류 작업을 식별하였으며, 강건한 학습의 난이도와 암호학적 프리미티브의 존재를 연결했습니다.
OpenAI Summer Fellows 2018 최종 프로젝트
OpenAI의 2018 Summer Fellows는 강화 학습 일반화, 분산 훈련 패턴, 생성 모델 표현력에 중점을 둔 연구 프로젝트를 완료했습니다.
AI 훈련 규모 확장: 그래디언트 노이즈 스케일을 통한 병렬화 가능성 예측
OpenAI는 네트워크 그래디언트의 신호 대 잡음 비율을 정량화하는 통계적 지표인 그래디언트 노이즈 스케일이 다양한 작업에서 신경망 훈련의 최대 유용 배치 크기를 예측할 수 있음을 발견했습니다.
강화학습에서 일반화 정량화
OpenAI는 강화학습에서 학습된 기술을 새로운 상황으로 전이하는 에이전트의 능력을 정량화하고 향상시키기 위해 설계된 절차적 생성 훈련 환경인 CoinRun을 소개합니다.
OpenAI 딥 RL 스피닝 업
OpenAI는 딥 강화 학습을 마스터할 수 있도록 코드, 튜토리얼 및 문서를 제공하는 교육 자료인 Spinning Up in Deep RL을 출시했습니다.
OpenAI 에너지 함수로 개념 학습
OpenAI는 에너지 함수를 사용하여 에이전트가 학습하고 개념을 추출할 수 있는 기술을 개발했으며, 이를 통해 재학습 없이도 서로 다른 환경 간에 개념을 전이할 수 있습니다.
OpenAI 온라인 계획 오프라인 학습 (POLO) 프레임워크
OpenAI는 로컬 모델 기반 제어와 글로벌 가치 함수 학습을 결합하여 복잡한 시뮬레이션 제어 작업에서 효율적인 학습을 가능하게 하는 온라인 계획 오프라인 학습 (POLO) 프레임워크를 소개합니다.
OpenAI Random Network Distillation (RND) 강화 학습용
OpenAI는 인간 시연이나 에뮬레이터 상태 접근 없이 Montezuma's Revenge에서 처음으로 평균 인간 성능을 초과하는 호기심 기반 탐색 방법인 Random Network Distillation (RND)을 소개합니다.
복잡한 목표 학습을 위한 OpenAI 반복 증폭
OpenAI는 작업을 더 간단한 하위 작업으로 분해하여 훈련 신호를 생성함으로써 인간 수준을 초과하는 복잡한 목표를 명시할 수 있는 AI 안전 기술인 반복 증폭을 제안합니다.
OpenAI Scholars 2019 프로그램 발표
OpenAI는 두 번째 코호트인 OpenAI Scholars 프로그램의 지원을 시작했으며, 소수자 그룹에 속한 개인들에게 장학금과 멘토십을 제공하여 딥러닝을 공부하고 오픈소스 프로젝트를 진행하도록 지원합니다.
OpenAI 펠로우 겨울 2019 및 인턴 여름 2019 프로그램
OpenAI는 다양한 배경을 가진 연구자와 학생들을 AI 연구에 통합하기 위해 겨울 2019 펠로우 프로그램과 여름 2019 인턴십의 지원을 시작했다고 발표했습니다.
FFJORD: 확장 가능한 가역 생성 모델을 위한 자유형 연속 동역학
OpenAI는 Hutchinson의 트레이스 추정기를 사용하여 확장 가능한 밀도 추정을 위해 제한 없는 신경망 아키텍처를 가능하게 하는 연속 시간 가역 생성 모델인 FFJORD를 소개합니다.
OpenAI Scholars 2018 최종 프로젝트
OpenAI는 2018 Scholars 프로그램의 최종 프로젝트들을 소개하는 쇼케이스를 발표했으며, 음악 생성, 직관적 물리학, 자연어 처리 등 다양한 머신러닝 응용 사례를 선보였습니다.
OpenAI Five: 2018 인터내셔널 결과
OpenAI Five는 2018 인터내셔널에서 세계 최고 수준의 프로 Dota 2 선수들과 경쟁했으며, 'Real Dota' 규칙 하에서 두 경기 모두 패했음에도 불구하고 높은 수준의 게임플레이를 보여주었습니다.
OpenAI 대규모 호기심 기반 학습 연구
OpenAI 연구원들은 예측 오류에 기반한 내재 호기심 보상만으로 훈련된 에이전트가 54개의 벤치마크 환경에서 손으로 설계된 외재 보상 없이도 높은 성능을 달성할 수 있음을 입증했습니다.
OpenAI Five 벤치마크 결과
OpenAI Five는 99.95번째 백분위수 Dota 플레이어 팀과의 3전 2선승제 시리즈에서 승리했으며, 복잡성과 불확실성을 다루는 고급 AI 역량을 보여줍니다.
OpenAI Dactyl: 도메인 랜덤화를 통한 손재주 학습
OpenAI는 인간과 유사한 로봇 손을 시뮬레이션에서 훈련시켜 물리적 물체를 높은 손재주로 조작하고, 별도의 미세 조정 없이 실제 세계로 그 기술을 전이하는 시스템인 Dactyl을 개발했습니다.
OpenAI 변분 옵션 발견 알고리즘
OpenAI는 변분 자동인코딩 옵션 학습(VALOR)과 커리큘럼 학습 접근법을 도입하여 강화 학습 에이전트에서 다양한 행동 모드의 발견을 안정화합니다.
OpenAI Scholars 2018: 우리 장학금을 만나보세요
OpenAI는 2018년 Scholars 코호트를 소개했으며, 강화 학습, 언어 모델링, AI와 예술의 교차점 등 다양한 분야에 집중하는 연구자들로 구성된 다채로운 그룹을 특징으로 합니다.
OpenAI Five 벤치마크
OpenAI는 OpenAI Five를 위한 벤치마크 매치를 발표했으며, 확장된 영웅 풀과 업데이트된 게임 메커니즘을 통해 AI를 고백분위수 인간 플레이어와 테스트합니다.
Glow: 더 나은 가역 생성 모델
OpenAI는 가역 1x1 컨볼루션을 사용하여 고해상도 이미지를 생성하고 정확한 잠재 변수 추론 및 효율적인 샘플링을 제공하는 flow 기반 생성 모델인 Glow를 소개합니다.
단일 시연을 통한 Montezuma’s Revenge 학습
OpenAI는 단일 인간 시연을 사용해 시작 상태의 역 커리큘럼을 만들어 Montezuma’s Revenge에서 기록적인 74,500점의 높은 점수를 달성하도록 RL 에이전트를 훈련시켰습니다.
OpenAI Five
OpenAI Five, Dota 2에서 자체 플레이로 훈련된 다섯 개의 신경망 팀은 아마추어 인간 팀을 이기기 시작했으며, 기본적인 알고리즘 발전 없이 장시간 horizon, 부분적으로 관측되는 작업을 처리할 수 있는 확장된 강화 학습을 보여주었습니다.
OpenAI 레트로 콘테스트 결과
OpenAI는 첫 번째 레트로 콘테스트를 마무리했으며, Sonic the Hedgehog을 위한 최고 성능 AI 에이전트는 PPO와 Rainbow DQN과 같은 기존 알고리즘을 튜닝하거나 확장하여 개발되었습니다.
다중 에이전트 시스템에서 OpenAI 학습 정책 표현
OpenAI는 에이전트 모델링을 표현 학습 문제로 다루어 최소한의 상호작용 데이터만으로 다중 에이전트 시스템에서 에이전트 행동을 이해할 수 있는 일반 학습 프레임워크를 소개합니다.
OpenAI 비지도 학습을 통한 언어 이해 향상
OpenAI는 비지도 언어 모델링으로 사전 학습한 후 소규모 지도 데이터셋으로 미세 조정한 Transformer 기반 모델이 상식 추론을 포함한 다양한 언어 작업에서 최첨단 결과를 달성할 수 있음을 보여주었습니다.
GamePad: 정리 증명을 위한 학습 환경
OpenAI는 Coq 증명 보조기 내에서 정리 증명에 머신러닝 방법을 적용하여 전술 예측 및 위치 평가를 자동화하도록 설계된 시스템인 GamePad를 소개했습니다.
OpenAI 펠로우 프로그램 2018 가을
OpenAI는 2018년 가을에 펠로우 프로그램을 시작하여 정식 AI 배경이 없는 개인들이 인공지능 연구로 전환할 수 있는 경로를 제공했습니다.
OpenAI Gym Retro 릴리스
OpenAI는 에이전트 일반화 연구를 가능하게 하기 위해 여러 클래식 콘솔에 걸쳐 1,000개가 넘는 타이틀로 게임 라이브러리를 확장한 강화 학습 플랫폼인 Gym Retro의 전체 버전을 출시했습니다.