nihui/qwenimage-ncnn-vulkan

해결하는 문제

이 프로젝트는 Qwen-Image-2.1 모델의 고성능 휴대용 구현을 제공하여 Python, PyTorch, CUDA와 같은 무거운 종속성 없이 다양한 하드웨어에서 이미지 생성 및 편집을 가능하게 합니다.

작동 방식

ncnn 범용 신경망 추론 프레임워크와 Vulkan을 사용하여 GPU 가속을 구현합니다. 이를 통해 Windows, Linux, macOS에서 NVIDIA, AMD, Intel, Apple Silicon GPU에서 모델을 실행할 수 있습니다. 양자화 없는 완전한 BF16 정밀도를 지원하며 자동 메모리 관리(타일링 및 저VRAM 모드)를 구현하여 2GB VRAM에 모델을 맞출 수 있습니다.

대상 사용자

소비자급 하드웨어에서 Qwen-Image-2.1을 사용하여 이미지 생성 및 편집을 원하는 사용자, 특히 복잡한 환경 설정보다 독립 실행형 실행 파일을 선호하는 사용자를 위한 것입니다.

주요 기능

• 광범위한 하드웨어 지원: NVIDIA, AMD, Intel, Apple Silicon GPU 및 CPU에서 작동합니다.
• 다용도 이미지 작업: 텍스트-이미지, 이미지 편집, 투명 RGBA 출력을 지원합니다.
• 고급 제어: ControlNet(포즈, Canny 등), LoRA 및 최대 10개의 참조 이미지를 통한 다중 참조 입력을 지원합니다.
• 휴대성: Python 또는 CUDA 종속성 없이 독립 실행형 실행 파일로 배포됩니다.
• 최적화된 성능: Turbo 버전(8단계 생성)을 포함하며 동적 출력 해상도를 지원합니다.