通过 Hugging Face Inference API 部署 AI Comic Factory

Hugging Face 已经发布了一篇教程，介绍如何使用 Inference API 将 AI Comic Factory 部署到私有空间。这使得用户可以通过利用自己的 Hugging Face PRO 账户来访问高性能模型，从而避免公共空间带来的长时间等待。

AI Comic Factory 架构

AI Comic Factory 是一个通过 Docker 部署的 NextJS 应用程序。与标准的 Hugging Face 空间不同，它采用客户端-服务器架构，依赖两个不同的 API 来生成内容：

• 语言模型 API: 目前使用 Llama-2 进行文本生成和故事结构。
• 稳定扩散 API: 目前使用 SDXL 1.0 进行图像生成。

通过空间复制进行部署

用户可以通过复制现有的空间来部署他们自己的 AI Comic Factory 版本。由于应用程序在 Docker 容器中运行且不在本地执行重计算任务，因此可以托管在最小的可用 CPU 实例上。官方公共空间使用更大的实例来处理高流量。

要成功运行复制的空间，用户必须在环境设置中配置他们的 Hugging Face 令牌。

后端引擎配置

AI Comic Factory 支持多种后端引擎，通过两个特定的环境变量进行管理：

• LLM_ENGINE: 配置语言模型。支持的值包括 INFERENCE_API、INFERENCE_ENDPOINT 和 OPENAI。
• RENDERING_ENGINE: 配置图像生成引擎。支持的值包括 INFERENCE_API、INFERENCE_ENDPOINT、REPLICATE 和 VIDEOCHAIN。

对于使用 Hugging Face Inference API 的标准部署，两个变量都必须设置为 INFERENCE_API。

预配置模型默认值

对于拥有 Hugging Face PRO 账户的用户，AI Comic Factory 已为 Inference API 预配置了以下模型：

• LLM 模型： meta-llama/Llama-2-70b-chat-hf（通过 LLM_HF_INFERENCE_API_MODEL）
• 渲染模型： stabilityai/stable-diffusion-xl-base-1.0（通过 RENDERING_HF_RENDERING_INFERENCE_API_MODEL）

当前限制和未来范围

虽然 Inference API 集成是功能性的，但它仍处于早期开发阶段。某些高级功能尚未移植到此部署方法，具体来说是 SDXL 细化步骤和图像放大功能。