OpenAI AI 기초 개요
OpenAI AI 기초 개요
TL;DR
OpenAI는 AI fundamentals라는 제목의 교육 가이드를 출판했는데, 이는 AI를 정의하고, 대형 언어 모델을 설명하며, 사전 학습과 사후 학습을 개요하고, 추론 모델과 비추론 모델을 구분하며, ChatGPT가 계층 구조에 어떻게 들어가는지를 보여줍니다.
AI란 무엇인가?
인공지능(AI)은 패턴을 인식하고, 데이터에서 학습하며, 유용한 출력을 생성할 수 있는 소프트웨어의 광범위한 범주입니다.
"인공지능(AI)은 패턴을 인식하고, 데이터에서 학습하며, 유용한 출력을 생성할 수 있는 소프트웨어의 광범위한 범주입니다." AI는 교통을 피해서 경로를 바꾸는 지도 앱, 비정상적인 구매를 표시하는 은행, 일반적인 질문에 답변하는 고객 지원 챗봇과 같은 일상적인 도구에 나타납니다. AI는 단일 도구가 아닌 범주이며,その中에는 음성, 비전, 또는 예측과 같은 작업을 전문으로 하는 모델들이 있습니다. 초보자는 종종 ChatGPT와 같은 대화형 AI 도구로 시작하는데, 이는 대형 언어 모델로 구동됩니다.
대형 언어 모델 작동 방식
대형 언어 모델(LLM)은 언어를 다루도록 설계된 모델입니다. 많은 출처의 방대한 텍스트에서 패턴을 학습하여 유용한 방식으로 텍스트를 생성하고 변환할 수 있습니다.
"대형 언어 모델(LLM)은 언어를 다루도록 설계된 모델입니다. 많은 출처의 방대한 텍스트에서 패턴을 학습하여 유용한 방식으로 텍스트를 생성하고 변환할 수 있습니다." LLM은 사람처럼 '알고' 있는 것이 아니라, 맥락을 기반으로 가장 확률이 높은 다음 언어 조각을 예측합니다. 컴퓨팅 파워, 훈련 방법, 대규모 데이터셋 접근의 발전으로 더 크고 유능한 LLM을 구축할 수 있게 되었습니다. OpenAI와 같은 프론티어 랩은 이러한 모델을 구축하여 ChatGPT나 Codex 같은 제품 및 개발자를 위한 API를 통해 제공합니다.
모델이 시간에 따라 어떻게 진화하는가
새로운 모델은 훈련을 마치고 내부 평가 및 안전 테스트를 통과한 후에 이용 가능해집니다. 훈련은 두 단계로 구성됩니다: 사전 훈련과 사후 훈련.
"첫 번째 단계는 사전 훈련이며, 이때 모델은 방대한 양의 텍스트에서 일반적인 패턴을 학습하여 요약, 초안 작성, 번역, 설명과 같은 광범위한 기술을 습득합니다." 사전 훈련은 새로운 직원이 매뉴얼, 예시, 과거 프로젝트를 읽어 직업의 형태를 이해하는 것과 유사합니다. 사전 훈련 후 모델은 사후 훈련 단계에 들어가며, 여기서 더 명확해지도록 지도하고, 좋은 후속 질문을 하며, 적절한 어조를 맞추고, 회사 정책을 따르도록 훈련받습니다. 이 단계에서는 해로운 출력을 줄이고, 원치 않는 요청을 피하며, 민감하거나 불확실한 주제에 신중히 대응하도록 설계된 안전 검사도 강조됩니다. 모델이 업데이트됨에 따라 사용자는 어조나 응답의 변화를 느낄 수 있는데, 목표, 청중, 형식, 제약 조건을 명시적으로 제시하면 특히 안전이나 불확실성이 관련된 경우 일관된 결과를 얻는 데 도움이 됩니다.
추론 모델과 비추론 모델
모델은 속도, 깊이, 다단계 지시를 따를 수 있는 능력 등의 다양한 트레이드오프에 맞춰 조정됩니다.
"비추론 모델(때때로 ‘Instant’으로 라벨링됨)은 빠르고 유창한 출력을 위해 최적화되었습니다. 작업이 간단하고 주로 동력을 유지하고 싶을 때 좋은 기본값입니다." "추론 모델(때때로 ‘Thinking’으로 라벨링됨)은 의도적이고 단계별 문제 해결—계획, 복잡한 분석, 까다로운 디버깅, 또는 제약 조건과 엣지 케이스가 있는 결정 등에서 더 나은 성과를 위해 훈련됩니다." 비추론 모델은 초안 작성, 요약, 재작성, 브레인스토밍과 같은 일상적인 작업에 속도와 유창성을 우선시합니다. 추론 모델은 답변하기 전에 문제를 생각하기 위해 더 많은 컴퓨팅을 할당하는데, 이는 더 어려운 다단계 작업에서 신뢰성을 높일 수 있지만 시간이 더 걸릴 수 있습니다. 초보자에게는 기본 ChatGPT 경험이 모드 간 자동 전환을 제공하여 사용자가 설정보다는 질문에 집중할 수 있게 합니다. 시간이 지나면서 사용자는 선택적 컨트롤을 실험하여 대부분의 경우 Auto를 선택하고, 복잡하거나 중요한 작업에는 Thinking으로 전환할 수 있습니다.
요약
이 가이드는 간단한 계층 구조를 제시합니다:
- AI = 전체 분야
- Models = 특정 작업을 수행하는 훈련된 시스템
- Large language models (LLMs) = 언어를 이해하고 생성하는 데 초점을 맞춘 모델로, AI 연구 labs에 의해 시간이 지나면서 훈련됨
- ChatGPT = LLM을 효과적으로 사용할 수 있도록 도와주는 제품 이 계층 구조를 이해하면 사용자는 ChatGPT와 같은 도구와의 소통 방법을 배움으로써 훌륭한 결과를 얻을 수 있습니다.
Sources
- OriginalAI fundamentals