Woolverine94/biniou
a self-hosted webui for 30+ generative ai
해결하는 문제
Biniou는 사용자가 자신의 하드웨어에서 다양한 생성형 AI 모델을 로컬로 실행할 수 있도록 해주는 셀프 호스팅 웹 인터페이스입니다. 텍스트, 이미지, 오디오, 비디오 및 3D 생성을 위한 통합된 대시보드를 제공하여 여러 이질적인 AI 도구를 설정하는 복잡성을 제거하며, 전용 GPU가 없는 머신(8GB RAM부터)에서도 작동하도록 설계되었습니다.
작동 방식
Hugging Face와 Gradio를 기반으로 하는 Biniou는 광범위한 AI 모듈을 통합합니다. 텍스트 기반 챗봇에는 llama-cpp를 사용하며, 광범위한 이미지 생성 모델(Stable Diffusion, Flux, Kandinsky 포함) 및 오디오/비디오 도구를 지원합니다. 시스템은 필수 요구 사항 및 모델의 자동 설치를 처리하여 사용자가 Linux, Windows 및 macOS에 배포할 수 있도록 합니다. 또한 호환 가능한 GPU가 있는 사용자를 위해 CUDA 및 ROCm를 통한 하드웨어 가속도 지원합니다.
대상 사용자
고성능 전문 하드웨어나 모델 배포에 대한 깊은 기술적 지식 없이도 자신의 컴퓨터에서 프라이빗하고 오프라인 사용이 가능한 GenAI 제품군을 원하는 사용자.
주요 특징
- 멀티모달 기능: 텍스트(챗봇, 번역, 음성-텍스트 변환), 이미지(생성, 인페인팅, 아웃페인팅, 페이스스왑), 오디오(음악 및 음성 생성), 비디오(텍스트-비디오), 3D 오브젝트 지원.
- 낮은 하드웨어 장벽: 8GB RAM만 있고 전용 GPU가 없는 시스템에서도 실행 가능.
- 통합 인터페이스: 업데이트, 재시작 및 모델 관리를 위한 제어 패널이 있는 단일 웹 UI.
- 폭넓은 모델 지원: LLM을 위한 GGUF 양자화 모델 및 LoRA와 Textual Inversion을 포함한 이미지 생성용 다양한 포맷(safetensors)과 호환.
- 크로스 플랫폼: 여러 Linux 배포판, Windows용 원클릭 설치 프로그램을 제공하며 macOS에 대한 실험적 지원을 포함함.