maritaca-ai/maritalk-api

무엇을 해결하는가

MariTalk API는 일반 목적의 모델보다 포르투갈어와 브라질 맥락을 더 잘 이해하도록 특별히 훈련된 Sabiá 대규모 언어 모델(LLM) 제품군에 대한 액세스를 제공합니다.

작동 방식

이 API는 OpenAI API와 호환되도록 설계되어, 사용자가 OpenAI 라이브러리를 사용하는 기존 프로그램에 Sabiá 모델(예: sabia-4 및 sabiazinho-4)을 통합할 수 있도록 합니다. 사용자는 단순히 base_url을 https://chat.maritaca.ai/api로 변경하고 Sabiá 모델 이름을 지정하면 됩니다. 이 API는 채팅 모드(system, user, assistant 역할), 긴 텍스트 생성을 위한 스트리밍 응답(generator 및 async generator를 통해), 그리고 응답 품질을 향상시키기 위한 few-shot prompting과 같은 표준 LLM 기능을 지원합니다.

대상 사용자

고품질의 포르투갈어 언어 처리 및 브라질 문화적 맥락에 대한 이해가 필요한 애플리케이션을 구축하는 개발자.

주요 특징

• OpenAI 호환성: OpenAI의 Python 라이브러리와 원활한 통합.
• 브라질 포르투갈어 특화: 포르투갈어와 브라질 맥락에 최적화된 모델.
• 스트리밍 지원: 더 빠른 응답성을 제공하는 애플리케이션을 위한 동기 및 비동기 스트리밍 지원.
• 토큰 계산 유틸리티: 비용 예측을 위한 토큰 수를 계산하는 maritalk Python 라이브러리 포함.
• 온프레미스 옵션: 로컬 배포(MariTalk Local)를 위한 문서 제공.