maritaca-ai/maritalk-api

何を解決するか

MariTalk APIは、一般的なモデルよりもポルトガル語とブラジルの文脈をより深く理解するように特別にトレーニングされたSabiáファミリーの大規模言語モデル（LLM）へのアクセスを提供します。

仕組み

このAPIはOpenAI APIと互換性があるように設計されており、ユーザーはOpenAIライブラリを使用している既存のプログラムにSabiáモデル（sabia-4やsabiazinho-4など）を統合できます。ユーザーは単にbase_urlをhttps://chat.maritaca.ai/apiに変更し、Sabiáモデルの名前を指定するだけです。チャットモード（system、user、およびassistantロール）、長いテキスト生成のためのストリーミングレスポンス（ジェネレーターおよび非同期ジェネレーター経由）、および応答品質を向上させるためのfew-shotプロンプティングなどの標準的なLLM機能を提供します。

対象者

高品質なポルトガル語処理とブラジルの文化的文脈の理解を必要とするアプリケーションを構築している開発者。

ハイライト

• OpenAI互換性: OpenAIのPythonライブラリとのシームレスな統合。
• ブラジル・ポルトガル語への特化: ポルトガル語と言語およびブラジルの文脈に最適化されたモデル。
• ストリーミングサポート: より応答性の高いアプリケーションのための、同期および非同期の両方のストリーミング。
• トークンカウントユーティリティ: コストを予測するためにトークン数を計算するためのmaritalk Pythonライブラリが含まれています。
• オンプレミスオプション: ローカル展開（MariTalk Local）のためのドキュメントが提供されています。