GPT-4 API 일반 제공 및 Completions API 폐기
OpenAI는 모든 유료 고객을 대상으로 GPT-4 API를 일반 제공한다는 발표와 함께 Completions, Embeddings, Edits API 내 레거시 모델에 대한 포괄적인 폐기 일정을 발표했습니다. 이번 변화는 OpenAI의 가장 강력한 모델과 개발자 상호작용을 위한 주요 인터페이스로 Chat Completions API를 전략적으로 전환하는 것을 의미합니다.
GPT-4 API 일반 제공
성공적인 결제 이력이 있는 기존 API 개발자는 이제 8K 컨텍스트 윈도우를 갖춘 GPT-4 API에 접근할 수 있습니다. OpenAI는 2024년 4월 말까지 새로운 개발자에게도 접근을 확대할 계획이며, 속도 제한은 컴퓨팅 가용성에 따라 증가될 예정입니다.
GPT-4 외에도 GPT-3.5 Turbo, DALL·E, Whisper API가 이제 일반 제공됩니다. OpenAI는 또한 GPT-4와 GPT-3.5 Turbo에 대한 파인튜닝이 2024년 말에 출시될 예정이라고 밝혔습니다.
Chat Completions API로의 전환
OpenAI는 현재 API GPT 사용량의 97%를 차지하고 있는 Chat Completions API를 우선시하고 있습니다. 회사는 Completions API의 기존 자유형 텍스트 프롬프트 인터페이스에서 구조화된 프롬프트 인터페이스로 전환하고 있습니다.
채팅 기반 패러다임의 장점
- 향상된 유연성: 구조화된 인터페이스는 시스템 메시지와 함수 호출을 지원하여 보다 복잡한 대화 경험 및 완성 작업을 가능하게 합니다.
- 보안 강화: Chat Completions API는 사용자 제공 콘텐츠와 시스템 지시를 구조적으로 분리함으로써 프롬프트 인젝션 공격 위험을 감소시킵니다.
- 다중 턴 기능: 이 API는 다중 턴 대화를 위해 특별히 설계되어 응답의 구체성을 높입니다.
OpenAI는 "chattiness"를 줄이기 위한 조정 가능성 향상 및 완성 토큰에 대한 로그 확률 제공 등 Chat Completions API의 남은 격차를 해소하기 위해 노력하고 있습니다.
레거시 모델 폐기
OpenAI는 세 가지 API 카테고리 전반에 걸쳐 여러 오래된 모델을 폐기할 예정입니다. Completions API는 개발자 문서에서 "레거시"로 표시되며, 해당 API에 대해 새로운 모델이 공개적으로 출시되지 않을 것입니다.
Completions API 폐기
2024년 1월 4일부터 오래된 완성 모델은 다음과 같이 교체됩니다:
| 이전 모델 | 새 모델 |
|---|---|
| ada, babbage | babbage-002 |
| curie, davinci | davinci-002 |
| davinci-instruct-beta, curie-instruct-beta, text-ada-001, text-babbage-001, text-curie-001, text-davinci-001, text-davinci-002, text-davinci-003 | gpt-3.5-turbo-instruct |
기본 GPT-3 모델(ada, babbage, curie, davinci)에 대한 안정적인 모델 이름을 사용하는 애플리케이션은 자동으로 업그레이드됩니다. text-davinci-003와 같은 다른 모델을 사용하는 사용자는 gpt-3.5-turbo-instruct로 수동 업그레이드해야 합니다.
Embeddings API 폐기
이전 임베딩 모델(text-search-davinci-doc-001 등)을 사용하던 모든 사용자는 2024년 1월 4일까지 text-embedding-ada-002로 마이그레이션해야 합니다. OpenAI는 text-embedding-ada-002가 현재 전체 임베딩 API 사용량의 99.9%를 차지하고 있다고 언급했습니다.
Edits API 폐기
Edits API와 해당 모델(text-davinci-edit-001 또는 code-davinci-edit-001 등)을 사용하는 사용자는 2024년 1월 4일까지 GPT-3.5 Turbo로 마이그레이션해야 합니다.
파인튜닝 마이그레이션 지원
이전 기본 GPT-3 모델에 파인튜닝한 개발자는 babbage-002, davinci-002, GPT-3.5 Turbo 또는 GPT-4에서 대체 모델을 파인튜닝해야 2024년 1월 4일 이후에도 사용할 수 있습니다. OpenAI는 이전에 오래된 모델을 파인튜닝한 사용자에게 GPT-3.5 Turbo와 GPT-4 파인튜닝에 대한 우선 접근을 제공하고, Embeddings API 마이그레이션을 위한 콘텐츠 재임베딩 비용을 부담하겠다고 약속했습니다.