GPT-3.5 Turbo 파인튜닝 및 API 업데이트

OpenAI는 GPT-3.5 Turbo에 대한 파인튜닝을 출시하여 개발자가 특정 사용 사례에 맞게 모델을 맞춤화하여 더 높은 성능과 확장성을 달성할 수 있게 했습니다. 이 업데이트는 미세 조정된 GPT-3.5 Turbo 모델이 특정하고 좁은 작업에서 기본 GPT-4 모델의 능력을匹配하거나 초과할 수 있게 하기 때문에 중요합니다.

모델 맞춤화 및 성능

파인튜닝을 통해 개발자는 감독된 파인튜닝을 실행하여 독특한 사용자 경험을 만들고 모델 성능을 향상시킬 수 있습니다. OpenAI에 따르면, 초기 테스트에서 GPT-3.5 Turbo의 파인튜닝된 버전이 특정 좁은 작업에서 기본 GPT-4보다 성능이 더 좋을 수 있음을 나타냈습니다.

주요 성능 개선

개발자는 파인튜닝을 사용하여 모델 동작에서 다음과 같은 개선을 달성할 수 있습니다:

  • 향상된 조종 가능성: 모델은 특정 언어(예: German)를 유지하거나 출력이 간결하도록 유지하도록 지시를 더 정확히 따르도록 훈련될 수 있습니다.
  • 신뢰할 수 있는 출력 형식: 파인튜닝은 모델이 특정 형식을 일관되게 생성하는 능력을 높이며, 이는 코드 완성 또는 API 호출 생성과 같은 애플리케이션에 필수적입니다. 예를 들어, 프롬프트를 고품질 JSON 스니펫으로 변환하는 경우입니다.
  • 맞춤 톤: 기업은 모델의 출력을 특정 브랜드 목소리 및 질감과 일치시켜 사용자 상호작용 전반에 걸쳐 일관성을 유지할 수 있습니다.

효율성 및 비용 절감

GPT-3.5 Turbo 파인튜닝은 모델에 직접 지시를 내장하여 프롬프트를 단축함으로써 기업이 이를 가능하게 합니다. 초기 테스터들은 프롬프트 크기를 최대 90%까지 줄여서 API 호출 속도를 높이고 운영 비용을 낮추었습니다.

또한, 새로운 파인튜닝 기능은 4k 토큰의 컨텍스트 창을 지원하며, 이는 OpenAI의 이전 파인튜닝된 모델의 용량의 두 배입니다.

데이터 개인정보 보호 및 미래 로드맵

파인튜닝 API를 통해 전송된 데이터는 고객의 소유이며, OpenAI 또는 기타 조직이 다른 모델을 훈련하는 데 사용되지 않습니다.

OpenAI는 이번 가을에 출시될 다음과 같은 업데이트를 개요했습니다:

  • GPT-4 파인튜닝: GPT-4의 파인튜닝 지원은 이번 가을 후반에 출시될 예정입니다.
  • 고급 기능: 함수 호출과의 파인튜닝 지원 및 gpt-3.5-turbo-16k 모델 지원도 이번 가을 후반에 도입될 예정입니다.

Sources