Woolverine94/biniou
a self-hosted webui for 30+ generative ai
解決する課題
Biniouは、ユーザーが自身のハードウェア上でさまざまな生成AIモデルをローカルで実行できるようにするセルフホスト型のウェブインターフェースです。テキスト、画像、音声、動画、3D生成のための統合されたダッシュボードを提供することで、複数の異なるAIツールをセットアップする複雑さを解消します。また、専用のGPUがないマシン（8GB RAMから）でも動作するように設計されています。
仕組み
Hugging FaceとGradioをベースに、Biniouは幅広いAIモジュールを統合しています。テキストベースのチャットボットには llama-cpp を使用し、幅広い画像生成モデル（Stable Diffusion、Flux、Kandinskyを含む）や音声/動画ツールをサポートしています。システムは前提条件とモデルの自動インストールを処理するため、ユーザーはLinux、Windows、macOSにデプロイできます。また、互換性のあるGPUを持つユーザー向けに、CUDAおよびROCmを介したハードウェアアクセラレーションもサポートしています。
対象ユーザー
ハイエンドなプロフェッショナル向けハードウェアや、モデルデプロイに関する深い技術的知識を必要とせず、自身のコンピュータ上でプライベートかつオフラインで使用可能なGenAIスイートを求めるユーザー。
ハイライト
- マルチモーダル機能: テキスト（チャットボット、翻訳、音声文字起こし）、画像（生成、インペインティング、アウトペインティング、フェイススワップ）、音声（音楽および音声生成）、動画（テキストから動画）、3Dオブジェクトをサポート。
- 低いハードウェア障壁: 8GBのRAMのみで、専用GPUなしでも動作可能。
- 統合インターフェース: 更新、再起動、モデル管理のためのコントロールパネルを備えた単一のウェブUI。
- 幅広いモデルサポート: LLM用のGGUF量子化モデル、およびLoRAやTextual Inversionを含む画像生成用の様々なフォーマット（safetensors）に対応。
- クロスプラットフォーム: 複数のLinuxディストリビューション、Windows、およびmacOS向けの実験的なサポートを含むワンクリックインストーラーが利用可能。