ChatGPT 플러그인 출시

OpenAI는 ChatGPT에 플러그인에 대한 초기 지원을 구현하여 언어 모델이 최신 정보에 접근하고, 계산을 실행하며, 타사 서비스를 활용할 수 있게 했습니다. 이 확장은 ChatGPT를 텍스트 생성 엔진에서 외부 데이터와 상호 작용하고 사용자를 대신해 제한된 작업을 수행할 수 있는 시스템으로 변모시킵니다.

핵심 기능 및 목적

플러그인은 언어 모델의 "눈과 귀" 역할을 하여 정적 훈련 데이터의 고유한 한계를 극복합니다. 너무 최신이거나 개인적이거나 훈련 코퍼스에 포함되기에는 구체적인 정보에 접근함으로써 플러그인은 ChatGPT가 다음을 할 수 있게 합니다:

  • 실시간 데이터 접근: 인터넷이나 특정 데이터베이스에서 최신 정보를 검색합니다.
  • 계산 수행: 정밀한 수학 및 기술 계산을 실행합니다.
  • 작업 실행: 타사 서비스 통합을 사용하여 안전하고 제한된 작업을 수행합니다.

OpenAI는 소수의 사용자와 ChatGPT Plus 구독자를 대상으로 이러한 도구를 단계적으로 배포하여 실제 영향과 안전 과제를 연구한 후 API 사용자에게 접근을 확대할 계획입니다.

자체 플러그인: 브라우징 및 코드 인터프리터

OpenAI는 모델의 기본 기능을 강화하기 위해 두 가지 주요 내부 플러그인을 출시했습니다:

웹 브라우징

브라우징 플러그인은 ChatGPT가 인터넷에서 정보를 읽을 수 있게 하여 훈련 코퍼스 이상의 지식을 확장합니다.

  • 기술 구현: 플러그인은 Bing 검색 API를 사용하며 보안 위험을 줄이기 위해 GET 요청만 허용합니다. OpenAI의 주요 인프라와 별개의 격리된 서비스 내에서 작동합니다.
  • 웹 시민성: 플러그인은 사용자 에이전트 토큰 ChatGPT-User를 사용하고 robots.txt 파일을 존중하여 콘텐츠 제작자를 배려합니다.
  • 투명성: 시스템은 출처를 인용하고 방문한 웹사이트 목록을 제공하여 사용자가 정확성을 확인하고 제작자에게 크레딧을 제공할 수 있게 합니다.

코드 인터프리터

코드 인터프리터는 ChatGPT에 샌드박스화되고 방화벽으로 보호된 실행 환경에서 일시적인 디스크 공간을 가진 작동 중인 Python 인터프리터를 제공합니다.

  • 기능: 파일 업로드 및 다운로드를 지원하여 모델이 정량적·정성적 수학 문제를 해결하고, 데이터 분석 및 시각화를 수행하며, 파일을 형식 간 변환할 수 있게 합니다.
  • 안전성: 예기치 않은 부작용을 방지하기 위해 환경은 엄격한 네트워크 제어로 보호되며 실행된 코드의 외부 인터넷 접근을 차단합니다.

오픈소스 검색 플러그인

OpenAI는 허가된 개인 또는 조직 정보 소스에 접근할 수 있게 하는 검색 플러그인을 오픈소스로 공개했습니다.

  • 메커니즘: 플러그인은 OpenAI 임베딩을 활용하며 개발자가 문서 인덱싱 및 검색을 위해 벡터 데이터베이스(예: Milvus, Pinecone, Qdrant, Redis, Weaviate, Zilliz)를 선택할 수 있게 합니다.
  • 보안: 플러그인은 자체 호스팅 솔루션으로 결과를 ChatGPT 세션에만 추가하고 외부 영향을 주지 않으므로 주요 보안 위험은 데이터 권한 부여와 프라이버시에 집중됩니다.

타사 플러그인 생태계

타사 플러그인은 기능에 대한 기계가 읽을 수 있는 설명과 사용자용 문서를 포함한 매니페스트 파일을 기반으로 언어 모델이 호출하도록 설계되었습니다.

개발 프로세스

개발자는 API(새로운 것이든 기존 것이든 래퍼이든)를 구축하고 OpenAPI 사양 및 매니페스트 파일을 제공하여 플러그인을 생성합니다. 사용자가 플러그인을 활성화하면 해당 문서가 대화 컨텍스트의 일부로 모델에 제공되어 모델이 언제, 어떻게 API를 호출할지 판단할 수 있게 합니다.

초기 파트너

초기 협력 파트너로는 Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram, Zapier 등이 있습니다.

안전 및 사회적 영향

언어 모델을 외부 도구와 연결하면 해롭거나 의도치 않은 행동, 정교한 프롬프트 인젝션, 정보 오용 등의 중대한 위험이 발생합니다.

완화 전략

OpenAI는 내부 및 외부 레드팀 연습을 기반으로 여러 안전 장치를 구현했습니다:

  • 디자인 단계에서 안전: 위험한 플러그인 동작을 제한하고 플러그인이 작동하는 시점에 대한 투명성을 향상시킵니다.
  • 점진적 배포: 잠재적 문제의 영향을 최소화하기 위해 접근을 점진적으로 확대합니다.
  • 평가 프레임워크: 안전 및 기능 평가를 위해 오픈소스 Evals 프레임워크를 활용합니다.

경제적 영향

OpenAI는 도구 접근이 가능한 언어 모델이 그렇지 않은 모델보다 더 큰 경제적 영향을 미칠 가능성이 높으며, 이는 직업 변환, 대체 및 창출을 가속화할 수 있다는 연구를 인용합니다.

Sources