OpenAI 비지도 학습을 통한 언어 이해 향상

OpenAI는 단일 Transformer 모델이 다양한 자연어 처리(NLP) 작업에서 높은 성능을 달성하도록 하는 2단계 학습 프로세스를 개발했습니다. 먼저 비지도 언어 모델링을 사용해 대량의 데이터로 모델을 학습하고, 이후 더 작고 작업별 지도 데이터셋으로 미세 조정함으로써, 시스템은 최소한의 적응으로 복잡한 문제를 해결할 수 있습니다.

2단계 학습 아키텍처

시스템은 비지도 사전 학습과 지도 미세 조정으로 구성된 파이프라인을 활용합니다. 이 접근 방식은 모델이 특정 작업에 적용되기 전에 언어에 대한 일반적인 이해를 개발하도록 합니다.

• 비지도 사전 학습: 모델은 언어 모델링을 학습 신호로 사용하여 매우 대량의 데이터로 학습된 Transformer입니다. 이 단계는 모델이 수동 라벨링 없이 원시 텍스트에서 구별 가능한 특징을 학습하도록 합니다.
• 지도 미세 조정: 사전 학습된 핵심 모델은 훨씬 작은 지도 데이터셋을 사용해 특정 작업에 맞게 조정됩니다. 이 과정은 모델을 일반 언어 모델에서 작업 특화 솔버로 전환하는 데 최소한의 적응만을 필요로 합니다.

기존 연구와의 비교

이 연구는 비지도 및 반지도 학습의 여러 이전 방법론을 기반으로 확장합니다:

• 반지도 시퀀스 학습: 이 연구는 LSTM의 비지도 사전 학습 후 지도 미세 조정을 통해 문서 분류를 개선하는 방법을 확립했습니다.
• ULMFiT: 이 연구는 데이터셋에 구애받지 않는 단일 LSTM 언어 모델을 다양한 문서 분류 데이터셋에서 최첨단 성능을 위해 미세 조정할 수 있음을 보여주었습니다.
• ELMo: ELMo도 사전 학습을 포함하지만, OpenAI의 접근 방식은 작업에 구애받지 않는 반면, ELMo는 결과를 얻기 위해 작업 맞춤형 아키텍처를 사용합니다.

성능 및 역량

이 모델은 단순 문서 분류를 넘어 의미 유사성, 독해, 상식 추론 등 다양한 작업에서 강력한 성능을 보여줍니다.

상식 추론 및 세계 지식

가장 중요한 결과 중 하나는 COPA, RACE, ROCStories 데이터셋에서 모델이 보인 성능입니다. 모델은 이 데이터셋들에서 큰 차이로 새로운 최첨단 결과를 달성했습니다. 이러한 작업은 다문장 추론과 풍부한 세계 지식을 필요로 한다고 여겨지므로, 결과는 모델이 이러한 역량을 주로 비지도 학습 단계에서 향상시켰음을 시사합니다.

작업 다양성 및 최소 튜닝

시스템은 효율성과 일관성을 위해 설계되었습니다. 모든 데이터셋은 앙상블 없이 단일 순방향 언어 모델로 처리되었으며, 보고된 결과 대부분은 동일한 하이퍼파라미터 설정으로 달성되어, 이러한 결과를 얻는 데 거의 튜닝이 필요하지 않았음을 나타냅니다.

평가된 데이터셋 및 작업 예시

모델은 다음을 포함한 다양한 NLP 벤치마크에서 테스트되었습니다:

데이터셋	작업 유형	예시
SNLI	자연어 추론	두 문장이 모순되는지(Contra.) 혹은 서로를 함의하는지 판단합니다.
SciTail	자연어 추론	한 문장이 다른 문장을 함의하는지 혹은 중립인지 판단합니다.
QNLI	자연어 추론	문장이 문맥을 함의하는지 판단합니다.
RTE	자연어 추론	한 문장이 다른 문장을 모순하는지 판단합니다.
STS-B	의미 텍스트 유사도	두 문장의 유사성을 점수화합니다(예: 2/5).
QQP	Quora 질문 쌍	두 질문이 동일한지 판단합니다.
MRPC	Microsoft Research Paraphrase Corpus	두 문장이 동일한지 판단합니다.
RACE	독해	텍스트를 기반으로 객관식 질문에 답합니다.
ROCStories	상식 추론	가장 가능성 높은 이야기 결말을 선택합니다.
COPA	상식 추론	사건의 원인 또는 결과를 식별합니다.
SST-2	감정 분석	텍스트를 긍정 또는 부정으로 분류합니다.
CoLA	언어 수용성	문장이 문법적으로 허용되는지 판단합니다.