Woolverine94/biniou

a self-hosted webui for 30+ generative ai

解決的問題

Biniou 是一個自託管的 Web 介面，允許使用者在自己的硬體上本地執行各種生成式 AI 模型。它透過為文本、圖像、音訊、影片和 3D 生成提供統一的儀表板，消除了設定多個不同 AI 工具的複雜性，並且設計用於即使在沒有專用 GPU 的機器（從 8GB RAM 開始）上也能運行。

工作原理

Biniou 由 Hugging Face 和 Gradio 提供支持，整合了廣泛的 AI 模組。它使用 llama-cpp 進行基於文本的聊天機器人，並支援廣泛的圖像生成模型（包括 Stable Diffusion、Flux 和 Kandinsky）以及音訊/影片工具。系統會處理先決條件和模型的自動安裝，允許使用者在 Linux、Windows 和 macOS 上進行部署。對於擁有相容 GPU 的使用者，它還支援透過 CUDA 和 ROCm 進行硬體加速。

適用對象

想要在自己的電腦上擁有私密、支援離線使用的 GenAI 套件，而不需要高端專業硬體或深厚的模型部署技術知識的使用者。

亮點

  • 多模態能力：支援文本（聊天機器人、翻譯、語音轉文字）、圖像（生成、局部重繪、外擴繪製、換臉）、音訊（音樂與語音生成）、影片（文本轉影片）和 3D 物件。
  • 低硬體門檻：可以在僅有 8GB RAM 且沒有專用 GPU 的系統上運行。
  • 統一介面：單一 Web UI，帶有用於更新、重啟和管理模型的控制面板。
  • 廣泛的模型支援：相容用於 LLM 的 GGUF 量化模型以及用於圖像生成的各種格式（safetensors），包括 LoRA 和 Textual Inversion。
  • 跨平台：為多種 Linux 發行版、Windows 提供一鍵安裝程式，並對 macOS 提供實驗性支援。