maritaca-ai/maritalk-api

解決的問題

MariTalk API 提供對 Sabiá 系列大型語言模型（LLMs）的存取，這些模型特別訓練過，能比通用模型更深入了解葡萄牙語及巴西語境。

工作原理

此 API 設計為與 OpenAI API 兼容，讓使用者能將 Sabiá 模型（例如 sabia-4 和 sabiazinho-4）輕鬆整合至使用 OpenAI 庫的現有程式中。使用者只需將 base_url 改為 https://chat.maritaca.ai/api，並指定 Sabiá 模型名稱即可。它支援標準的 LLM 功能，例如聊天模式（系統、使用者與助理角色）、串流回應（透過產生器與非同步產生器）以產生長文本，以及少量示例提示（few-shot prompting）來提升回應品質。

適用對象

需要高品質葡萄牙語處理能力及對巴西文化語境理解的開發者。

主要特色

• OpenAI 兼容性：可與 OpenAI 的 Python 庫無縫整合。
• 巴西葡萄牙語專精：模型針對葡萄牙語與巴西語境進行優化。
• 串流支援：支援同步與非同步串流，讓應用程式更具回應性。
• Token 數量計算工具：內建 maritalk Python 套件，可用於計算 token 數量以預測成本。
• 本地部署選項：提供本地部署文件（MariTalk Local）。