SimpleTuner: エンタープライズグレードのオーケストレーションを備えたマルチモーダル生成モデル微調整のための統合トレーニングフレームワーク

何を解決するか

SimpleTunerは、大規模な生成AIモデルの微調整プロセスを簡素化します。画像、ビデオ、およびオーディオモデルのトレーニングのための、統一されたアクセスしやすいフレームワークを提供し、複雑な手動設定や微調整の必要性を減らしながら、膨大な数の最新モデルアーキテクチャをサポートします。

仕組み

SimpleTunerは、LoRA、LyCORIS、およびフルランクトレーニングを含む、さまざまな微調整方法をサポートする包括的なトレーニングパイプラインとして機能します。DeepSpeedやFSDP2のような高度なメモリ最適化ツールを統合することで、大規模なモデルをコンシューマー向けハードウェア（16GB VRAM程度まで）でトレーニングすることを可能にします。このプロジェクトには、ライフサイクル管理用のWeb UIと、パワーユーザー向けのコマンドラインインターフェースが含まれています。また、埋め込み（embeddings）の自動キャッシュ機能や、データセットのキャプション作成のためのCaptionFlowとの統合も備えています。

対象者

基礎となるコードベースを深く掘り下げる必要なく生成モデルを微調整したい研究者、AIアーティスト、および開発者、ならびに、マルチユーザーのオーケストレーション、ロールベースのアクセス制御、およびジョブキューイングを必要とするエンタープライズチーム向けに設計されています。

ハイライト

• 幅広いモデルサポート: Flux.1/2、Stable Diffusion XL/3、Wan Video、および LTX Video を含む、膨大な範囲のアーキテクチャと互換性があります。
• マルチモーダル機能: 画像、ビデオ、およびオーディオ生成モデルをトレーニングするための単一のパイプライン。
• エンタープライズグレードのインフラストラクチャ: チームベースのトレーニングのための、ワーカーのオーケストレーション、SSO統合、およびクォータ管理を含みます。
• メモリ効率: ハードウェアの障壁を下げるために、量子化（int8/fp8/nf4）および勾配チェックポインティング（gradient checkpointing）をサポートします。
• 高度な技術: TREAD (token-wise dropout)、masked loss training、および AnyFlow distillation を実装しています。