OpenAI Applied AI Research: AGI, 안전, 그리고 지속적 학습에 대한 관점

AGI와 인간 수준 생산성으로 가는 길

인공 일반 지능(AGI)은 대부분의 경제적으로 가치 있는 작업에서 인간보다 뛰어난 AI로 정의됩니다. AGI의 실현은 세 가지 주요 사회적 이점을 가져올 것으로 기대됩니다: 생산성을 높이기 위한 반복적이고 혁신적이지 않은 작업의 완전 자동화, 향상된 데이터 분석 및 의사결정 지원을 통한 과학적 돌파구 가속화, 그리고 물리적 세계와 안전하고 효율적으로 상호작용할 수 있는 AI 개발.

모델 크기와 데이터의 확장은 현재 진전의 핵심 동력이지만, AGI 달성을 위한 유일한 조건은 아닙니다. 남아 있는 가장 시급한 과제는 정렬(alignment)과 안전이며, 이는 목표를 효과적으로 전달하고 모델을 조정 가능하고 제어 가능하도록 보장하는 능력에 중심을 둡니다.

AI 안전 및 편향 완화의 진전

대규모 사전 학습 언어 모델의 안전한 배포를 보장하려면 인간이 만든 학습 데이터에 존재하는 결함과 편향을 적극적으로 완화해야 합니다. 모델은 현실 세계 통계와 사회적 편향을 흡수하기 때문에—예를 들어 DALL·E가 "간호사"에 대해 여성 캐릭터만, "교수"에 대해 백인 인물만 생성하는 경우—전용 안전 파이프라인이 필요합니다.

OpenAI Applied AI Research 팀은 여러 핵심 안전 이니셔티브를 구현했습니다:

• Content Evaluation: 사전 학습 모델이 증오, 성적, 폭력적 콘텐츠를 생성하는지 평가하기 위한 평가 데이터와 과제 설계.
• Content Moderation: 원치 않는 콘텐츠를 감지하고 해당 콘텐츠가 부적절한 구체적 이유를 식별하기 위한 상세한 분류 체계와 분류기 생성.
• Output Steering: 모델이 안전하지 않은 출력을 생성할 가능성을 줄이는 기술 개발.
• Bias Reduction Pipelines: 인간이 참여하는 평가 워크플로와 결합된 사회적 편향을 감소시키는 파이프라인 구현.

로보틱스 및 강화 학습 분야의 기술적 이정표

광범위한 도메인 랜덤화와 결합된 딥 강화 학습(RL)은 로봇이 실제 세계 학습 데이터 없이 복잡한 물리 작업을 수행하도록 할 수 있습니다. 이 접근법의 주요 사례는 인간형 로봇 손 하나를 Rubik's cube(루빅스 큐브) 해결에 성공적으로 훈련시킨 것으로, 시뮬레이션, RL 훈련, 시각 인식, 하드웨어 펌웨어 간의 긴밀한 통합이 필요했습니다.

지속적 학습 및 학제간 영감의 역할

지속적 학습과 다양한 분야 간 아이디어의 융합은 AI 연구에서 잠재적 해결 공간을 확장하는 데 필수적이라고 여겨집니다. 이 접근법은 여러 방식으로 구현됩니다:

• Interdisciplinary Study: 딥러닝 외 분야에서 영감을 얻는 것으로, 작가의 끈기, 외과의사의 세밀함, 그리고 "미친 아이디어"를 갖는 기업가적 사고방식 등을 포함합니다.
• Knowledge Documentation: 학습 노트를 정리하고 다른 사람에게 가르침으로써 지식을 숙달하도록 하는 방법으로 공개 블로그 활용.
• Collaborative Teamwork: "블로커" 제거를 우선시하고, 그 작업의 명성 여부와 관계없이 필요한 일을 수행하여 전체 팀 생산성을 극대화합니다.