rupeshs/fastsdcpu

Fast stable diffusion on CPU and AI PC

해결하는 문제

FastSD CPU는 CPU에서 Stable Diffusion을 사용하여 고속 이미지 생성을 가능하게 하며, 일반적으로 CPU 기반 추론이 느리다는 문제를 극복합니다. 고성능 전용 GPU가 없는 하드웨어에서도 이미지를 단 1단계로 생성할 수 있어, 시각 콘텐츠 제작에 소요되는 시간을 크게 단축시킵니다.

작동 방식

이 프로젝트는 잠재적 일관성 모델(LCM)과 적대적 확산 증류(ADD)를 활용하여 추론 단계 수를 줄입니다. Intel의 OpenVINO 툴킷을 사용해 CPU, 통합 GPU(iGPU), NPU에서 성능을 더욱 가속화합니다. 메모리 사용량을 줄이고 속도를 높이기 위해, 표준 디코더를 대체하는 작고 효율적인 AutoEncoder(TAESD)를 지원합니다.

대상 사용자

Windows, Linux, Mac, Android(Termux를 통해), Raspberry Pi 4에서 로컬로 Stable Diffusion을 실행하고 싶은 사용자, 특히 고성능 NVIDIA GPU가 없는 사용자에게 적합합니다.

주요 특징

  • 다중 인터페이스 지원: 데스크톱 GUI(Qt), 고급 기능을 위한 WebUI, 명령줄 인터페이스(CLI) 제공.
  • 극도의 속도: OpenVINO와 SDXS-512-0.9를 사용한 Core i7-12700에서 512x512 이미지를 0.82초 내에 생성 가능.
  • 광범위한 모델 호환성: SD 1.5, SDXL, SD Turbo, SDXL-Lightning, FLUX.1, FLUX.2-klein 지원.
  • C-Suite 기능: LoRA, ControlNet, 이미지에서 이미지로 변환, 이미지 변형, 이미지 편집(복원 및 색상 보정) 지원.
  • 하드웨어 최적화: Intel AI PC, 특히 Lunar Lake NPU에 특별히 최적화되어 있습니다.

관련

  • Dispatch
  • 프로젝트
  • Dispatch
  • 프로젝트
  • Dispatch