OpenAI Scholars 2018 최종 프로젝트
OpenAI는 2018 Scholars 코호트가 완료한 최종 프로젝트들의 요약을 공개했습니다. 이 프로젝트들은 창의 예술, 물리 시뮬레이션, 언어 분석 전반에 걸쳐 딥러닝, 강화학습, 생성 모델의 적용을 보여줍니다.
생성 음악 및 오디오
여러 학자들은 언어 모델링과 생성 아키텍처를 활용하여 음악 및 음악 관련 콘텐츠를 만드는 데 집중했습니다.
- 클래식 음악 생성: Christine Payne은 언어 모델링 기법을 적용하여 음표 기반 및 화음 기반 접근 방식을 모두 사용해 클래식 음악을 모델링하는 시스템을 개발했습니다. 이 시스템은 문자 수준 및 단어 수준 언어 모델을 병렬로 활용해 솔로 피아노 또는 피아노와 바이올린 실내악을 생성하며, 특정 작곡가나 스타일에 맞춰 학습할 수 있습니다. 프로젝트에는 실제와 가짜 샘플을 구분하는 음악 비평가 네트워크와 작곡가를 식별하는 네트워크가 포함됩니다.
- 음악 해설 생성: Nadja Rhodes는 웹에서 수집한 인간의 음악 글을 기반으로 학습한 언어 모델 "Deephypebot"을 만들었습니다. 이 모델은 음악 속성에 조건화되어 있으며, 음악 저널리즘에서 흔히 볼 수 있는 "화려한" 서술 스타일을 장려하는 별도의 학습 단계를 포함합니다.
자연어 처리 및 의미론
2018 코호트의 연구는 모델이 텍스트에서 의미와 의미 관계를 표현하는 방식을 개선하는 데 초점을 맞추었습니다.
- LSTM에서 의미 트리: Munashe Shumba는 문장 내 엔티티 간 관계를 보다 잘 표현하기 위해 장단기 기억(LSTM) 네트워크 내에서 의미 트리를 활용하는 방식을 탐구했습니다.
- 의미 텍스트 유사도: Dolapo Martins는 SemEval STS 과제 트랙 4를 위한 모델을 구축했으며, LSTM, RNN, Transformer 아키텍처 등 다양한 구조를 실험해 성능을 최적화했습니다.
창의 예술 및 시각 생성
학자들은 생성 적대 신경망(GAN)과 변분 오토인코더(VAE)를 시각 예술 및 감정 표현에 적용했습니다.
- 예술 구성 속성: Holly Grimm은 사전 학습된 ResNet50 네트워크를 사용해 8가지 예술 구성 속성에 맞게 미세 조정한 Art Composition Attributes 네트워크를 개발했습니다. 이를 CycleGAN에 통합해 해당 속성들의 목표값에 따라 예술 구성을 생성했습니다.
- 감정 풍경: Hannah Davis는 GAN, 조건부 VAE, 다중 스케일 VAE를 활용해 감정 풍경을 생성하는 실험을 진행했으며, 기쁨, 기대, 두려움, 슬픔, 놀라움, 신뢰, 혐오, 분노와 같은 특정 감정 클래스를 매핑했습니다.
물리 시뮬레이션 및 기반 학습
두 프로젝트는 AI와 물리적 혹은 환경적 세계의 교차점에 초점을 맞추었습니다.
- 직관적 물리학: Ifu Aniemeka는 마찰, 힘, 운동량과 같은 물리 개념을 명시적으로 정의하지 않고도 관찰만으로 물체의 공간 이동 규칙을 학습할 수 있는 네트워크를 구축했습니다.
- 기반 언어 학습: Sophia Arakelyan은 NLP와 강화학습(RL)을 결합한 프로젝트를 개발했으며, 에이전트가 받은 명령에 따라 Gridworld 환경에서 목표 셀에 도달하도록 하여 기반 언어 학습을 향한 단계로 삼았습니다.
기술 역량 습득
학자들은 산업 표준 프레임워크와 방법론에 대한 기술적 유창성이 크게 향상되었다고 보고했습니다. 주요 개발 영역은 다음과 같습니다:
- 프레임워크: TensorFlow, PyTorch, Keras에 대한 숙련도가 향상되었습니다.
- 아키텍처: 순환 신경망(RNN), LSTM, 생성 적대 신경망(GAN), 변분 오토인코더(VAE)의 실습 구현.
- 방법론: 데이터 생성, 특성 엔지니어링, 강화학습 알고리즘 적용 경험.