Prezi 案例研究:通过 Hugging Face 专家支持加速机器学习路线图
Prezi 利用 Hugging Face 加速多模态 AI 开发
Prezi 已经整合了 Hugging Face 专家支持计划和 Inference Endpoints,以加速其机器学习路线图,特别是针对 Prezi AI 产品。通过转向更小、更高效的开源模型并利用专家指导,Prezi 正在优化创建结合文本和图像的动态演示文稿。
使用开源模型优化 Prezi AI
Prezi AI 允许用户根据提示和描述生成草稿演示文稿。虽然系统最初依赖封闭模型和各种资产提供商服务,但 Hugging Face 的专家指导的整合带来了若干技术优化:
- 实现重新排序器: 为了改进用于寻找适合演示文稿的图像和文本的搜索系统,Prezi 添加了一个开源的重新排序模型。这种方法比使用大型语言模型(LLM)完成相同任务更快、更便宜且更有效。
- 多模态集成: Prezi 使用视觉模型、文本模型和视觉语言模型(VLM)相结合,以处理视觉交流本质上的多模态特性。
- 模型选择: 专家支持计划帮助 Prezi 的工程团队(并非专门的机器学习工程师)在大量新模型发布中筛选出真正有用而非仅仅炒作的模型。
通过 Inference Endpoints 的部署与基础设施
Prezi 使用 Hugging Face Inference Endpoints 来管理其机器学习模型的部署。提到的关键技术优势包括:
- 零配置部署: Endpoint Model Catalog 提供了一个经过策划的模型列表,这些模型可直接与 Inference Endpoints 配合使用,无需手动配置。
- 成本管理: 能够在端点几分钟无活动后将其设置为“休眠”,从而防止不必要的开支。
- 硬件支持: 平台支持单卡和四卡 A100 实例,这对于更大的模型是必需的。
- 版本控制: Prezi 可以通过单击一次部署最新模型版本,或使用 Git 哈希回滚到先前版本,这一工作流被描述为比 AWS 上的类似流程更方便。
专家支持计划的影响
对于没有专职机器学习工程师的团队,专家支持计划提供了通向生产就绪 AI 的桥梁。Prezi 利用这一合作获取最佳实践和特定任务的最先进模型,包括:
- 嵌入与重新排序: 优化资产检索方式。
- 目标检测: 改进视觉资产管理。
- 微调: 学习如何微调新的视觉语言模型并策划所需数据。
如 Prezi 的后端工程师 Máté Börcsök 所述:
"我们的专家指导我们专注于正确的工作,分享嵌入、重新排序和目标检测的最佳实践和最先进模型,并向我们展示如何微调新的视觉语言模型以及如何收集和策划数据。"