cohere-ai/cohere-python

해결하는 문제

다양한 클라우드 플랫폼 간에 수동으로 API 호출을 작성할 필요 없이 Cohere의 AI 모델에 접근할 수 있는 통합된 Python 인터페이스를 제공합니다.

작동 방식

SDK는 Cohere 서비스에 연결하는 클라이언트 라이브러리로 작동합니다. 네이티브 Cohere 플랫폼, AWS (Bedrock, Sagemaker), Azure, GCP, Oracle Cloud Infrastructure (OCI)를 포함한 다양한 배포 환경을 지원합니다. 일반 용도용 ClientV2와 Oracle 전용 인증 및 배포를 위한 OciClient와 같은 전용 클라이언트를 제공합니다.

대상 사용자

모델이 어디에 호스팅되어 있는지에 관계없이 Python 애플리케이션에 Cohere의 채팅 및 임베딩 모델을 통합하고자 하는 개발자들입니다.

주요 특징

• 다중 플랫폼 지원: Cohere, AWS, Azure, GCP, Oracle OCI에서 작동합니다.
• 스트리밍 기능: chat_stream을 통해 실시간 응답 생성을 지원합니다.
• OciClient: 구성 파일, 세션 토큰, 인스턴스 원칙을 포함한 다양한 인증 방법을 지원하는 Oracle Cloud Infrastructure 전용 지원.
• 포괄적인 API 접근: 채팅 및 임베딩 모델에 대한 접근을 제공합니다.