Woolverine94/biniou

a self-hosted webui for 30+ generative ai

解决的问题

Biniou 是一个自托管的 Web 界面，允许用户在自己的硬件上本地运行各种生成式 AI 模型。它通过为文本、图像、音频、视频和 3D 生成提供统一的仪表板，消除了设置多个不同 AI 工具的复杂性，并且设计用于即使在没有专用 GPU 的机器（从 8GB RAM 开始）上也能运行。

工作原理

Biniou 由 Hugging Face 和 Gradio 提供支持，集成了广泛的 AI 模块。它使用 llama-cpp 进行基于文本的聊天机器人，并支持广泛的图像生成模型（包括 Stable Diffusion、Flux 和 Kandinsky）以及音频/视频工具。该系统处理先决条件和模型的自动安装，允许用户在 Linux、Windows 和 macOS 上进行部署。对于拥有兼容 GPU 的用户，它还支持通过 CUDA 和 ROCm 进行硬件加速。

适用对象

想要在自己的电脑上拥有私密、支持离线使用的 GenAI 套件，而不需要高端专业硬件或深厚的模型部署技术知识的用户。

亮点

  • 多模态能力：支持文本（聊天机器人、翻译、语音转文本）、图像（生成、局部重绘、外扩绘制、换脸）、音频（音乐和语音生成）、视频（文本转视频）和 3D 对象。
  • 低硬件门槛：可以在仅有 8GB RAM 且没有专用 GPU 的系统上运行。
  • 统一界面：单个 Web UI，带有用于更新、重启和管理模型的控制面板。
  • 广泛的模型支持：兼容用于 LLM 的 GGUF 量化模型以及用于图像生成的各种格式（safetensors），包括 LoRA 和 Textual Inversion。
  • 跨平台：为多种 Linux 发行版、Windows 提供一键安装程序，并对 macOS 提供实验性支持。