drawthingsai/draw-things-community

解決する課題

このプロジェクトは、Draw Thingsアプリの公開用コアロジックを提供し、ユーザーがメインのサンドボックスアプリの外で画像生成モデル、サンプラー、トレーナーを実行できるようにします。特に、gRPC経由で推論サーバーを自己ホスティングできるようにすることで、Draw Thingsアプリが重い計算を別途のMacまたはLinuxマシンにオフロードできるようにします。

動作方法

このリポジトリには、画像生成モデルおよびデータモデルの再実装が含まれています。このコードにアクセスする主な方法は以下の2つです：

1. CLIツール：macOS上でローカルの画像生成およびLoRAトレーニングを行うための draw-things-cli。
2. gRPCサーバー：macOSまたはCUDA対応Linux（Docker経由）でホスト可能な gRPCServerCLI。Draw Thingsアプリの「サーバーオフロード」機能のリモートバックエンドとして機能します。

対象ユーザー

• 上級ユーザー：macOS上でコマンドラインインターフェースを介して画像を生成したり、LoRAをトレーニングしたい人。
• 自己ホスティングユーザー：強力なLinuxサーバー（RTX 20xxシリーズからH100まで）を持っている人で、Draw ThingsアプリにリモートGPUパワーを提供したい人。
• 開発者：アプリのモデルやサンプラーの下層実装に興味がある人。

特徴

• クロスプラットフォーム推論：macOSおよびCUDA加速Linuxをサポート。
• サーバーオフロード：Draw Thingsアプリが自己ホスティングされたgRPCサーバーに接続し、リモート生成を行うことができる。
• LoRAトレーニング：macOS上でローカルにLoRAトレーニングを行うためのCLIを含む。
• 柔軟なデプロイ：gRPCサーバーの迅速なセットアップを可能にする、事前ビルド済みバイナリおよびDockerイメージを提供。