OpenAI 推出 ChatGPT 与 Whisper API

OpenAI 已推出 GPT-3.5 Turbo 和 Whisper API,为开发者提供对先进的语言和语音转文本模型的访问。此次发布的特点是自去年十二月以来,ChatGPT 模型系列的成本降低了 90%,这一降幅已直接惠及 API 用户。

GPT-3.5 Turbo API 功能与定价

gpt-3.5-turbo 模型与 ChatGPT 产品中使用的模型相同,旨在支持聊天和非聊天两类使用场景。早期测试者已成功将 text-davinci-003 迁移至 gpt-3.5-turbo,仅需进行最小的提示词调整。

  • Pricing: 模型定价为每 1k 令牌 $0.002,比之前的 GPT-3.5 模型便宜 10 倍。
  • Input Format: 与使用非结构化文本的传统 GPT 模型不同,ChatGPT 模型使用带有元数据的消息序列,内部通过聊天标记语言(Chat Markup Language,ChatML)呈现。
  • Model Versioning: 开发者可以使用 gpt-3.5-turbo 端点获取推荐的稳定模型,或选择特定版本,例如 gpt-3.5-turbo-0301

Whisper API 用于语音转文本

OpenAI 已通过 API 提供其开源 Whisper 模型的 large-v2 版本。这使得开发者能够按需获得接近人类水平的语音转文本准确度,并通过高度优化的服务堆栈实现更快的性能。

  • Pricing: 服务定价为每分钟 $0.006。
  • Endpoints: API 提供 transcriptions(用于源语言转录)和 translations(转录为英文)。
  • Supported Formats: API 支持 m4a、mp3、mp4、mpeg、mpga、wav 和 webm 格式。

为高流量用户提供专用实例

对于需要更深入控制系统性能和模型版本的开发者,OpenAI 现通过 Azure 提供专用实例。用户可以按时间段付费租用预留计算资源,而非按请求计费。

专用实例对每日处理超过 4.5 亿令牌的开发者而言具有经济可行性。其优势包括:

  • 完全控制实例负载,以平衡吞吐量和请求速度。
  • 能够固定特定模型快照。
  • 可选择启用更长上下文限制等功能。

面向开发者的政策更新

OpenAI 根据开发者反馈更新了 API 服务条款和数据处理政策:

  • Data Privacy: 通过 API 提交的数据除非组织明确选择,否则不再用于模型训练或服务改进。
  • Data Retention: 已实施默认 30 天的数据保留政策,并提供更严格保留选项。
  • Ownership: 用户现在拥有模型的输入和输出。
  • Access: 已取消预发布审查流程,以简化开发者入驻。

行业应用案例

多家公司已将这些 API 集成到其产品中,以提升用户体验:

  • Snap Inc: 集成 gpt-3.5-turbo 为 Snapchat+ 提供 “My AI” 功能。
  • Quizlet: 开发了 “Q-Chat”,使用 gpt-3.5-turbo API 的自适应 AI 导师。
  • Instacart: 使用该 API 实现 “Ask Instacart”,让用户搜索食品和购物创意。
  • Shop (Shopify): 实施购物助理,提供个性化的产品推荐。
  • Speak: 利用 Whisper API 为语言学习者提供 AI 口语伴侣。

Sources