OpenAI 推出 ChatGPT 与 Whisper API
OpenAI 已推出 GPT-3.5 Turbo 和 Whisper API,为开发者提供对先进的语言和语音转文本模型的访问。此次发布的特点是自去年十二月以来,ChatGPT 模型系列的成本降低了 90%,这一降幅已直接惠及 API 用户。
GPT-3.5 Turbo API 功能与定价
gpt-3.5-turbo 模型与 ChatGPT 产品中使用的模型相同,旨在支持聊天和非聊天两类使用场景。早期测试者已成功将 text-davinci-003 迁移至 gpt-3.5-turbo,仅需进行最小的提示词调整。
- Pricing: 模型定价为每 1k 令牌 $0.002,比之前的 GPT-3.5 模型便宜 10 倍。
- Input Format: 与使用非结构化文本的传统 GPT 模型不同,ChatGPT 模型使用带有元数据的消息序列,内部通过聊天标记语言(Chat Markup Language,ChatML)呈现。
- Model Versioning: 开发者可以使用
gpt-3.5-turbo端点获取推荐的稳定模型,或选择特定版本,例如gpt-3.5-turbo-0301。
Whisper API 用于语音转文本
OpenAI 已通过 API 提供其开源 Whisper 模型的 large-v2 版本。这使得开发者能够按需获得接近人类水平的语音转文本准确度,并通过高度优化的服务堆栈实现更快的性能。
- Pricing: 服务定价为每分钟 $0.006。
- Endpoints: API 提供
transcriptions(用于源语言转录)和translations(转录为英文)。 - Supported Formats: API 支持 m4a、mp3、mp4、mpeg、mpga、wav 和 webm 格式。
为高流量用户提供专用实例
对于需要更深入控制系统性能和模型版本的开发者,OpenAI 现通过 Azure 提供专用实例。用户可以按时间段付费租用预留计算资源,而非按请求计费。
专用实例对每日处理超过 4.5 亿令牌的开发者而言具有经济可行性。其优势包括:
- 完全控制实例负载,以平衡吞吐量和请求速度。
- 能够固定特定模型快照。
- 可选择启用更长上下文限制等功能。
面向开发者的政策更新
OpenAI 根据开发者反馈更新了 API 服务条款和数据处理政策:
- Data Privacy: 通过 API 提交的数据除非组织明确选择,否则不再用于模型训练或服务改进。
- Data Retention: 已实施默认 30 天的数据保留政策,并提供更严格保留选项。
- Ownership: 用户现在拥有模型的输入和输出。
- Access: 已取消预发布审查流程,以简化开发者入驻。
行业应用案例
多家公司已将这些 API 集成到其产品中,以提升用户体验:
- Snap Inc: 集成
gpt-3.5-turbo为 Snapchat+ 提供 “My AI” 功能。 - Quizlet: 开发了 “Q-Chat”,使用
gpt-3.5-turboAPI 的自适应 AI 导师。 - Instacart: 使用该 API 实现 “Ask Instacart”,让用户搜索食品和购物创意。
- Shop (Shopify): 实施购物助理,提供个性化的产品推荐。
- Speak: 利用 Whisper API 为语言学习者提供 AI 口语伴侣。