unconv-ai/Un-0

何を解決するか

Un-0 は、現代のAI画像生成モデルで一般的な計算コストの高い反復的ノイズ除去と拡散スケジュールを回避する画像生成モデルです。動的システムを計算基盤として利用することで、アナログおよび物理的ハードウェアにマッピング可能であり、AIのエネルギー消費を大幅に削減する道筋を提供することを目指しています。

動作方法

拡散ではなく、Un-0 は Kuramoto 動力学——結合されたオシレーター群の位相ダイナミクスを統合する方法を使用します。このモデルは、これらのオシレーターを進化させ、その結果をデコーダーに通して画像を生成します。本プロジェクトは、CIFAR-10 および ImageNet-64 用のトレーニングパイプラインを備えた PyTorch の参照実装を提供しており、トレーニングには DINOv2 特徴量が利用されています。

対象読者

非伝統的なAIアーキテクチャ、動的システム、エネルギー効率の高い画像生成に興味を持つ研究者および開発者。

特徴

• 非拡散アプローチ：反復的ノイズ除去や敵対的学習なしに画像を生成。
• エネルギー効率：アナログ／物理的ハードウェアに実装した場合、エネルギー消費を最大1000倍低減できるように設計。
• 事前学習済み重み：オシレーター数を変化させた CIFAR-10 および ImageNet-64 用のチェックポイントを含む。
• アブレーションスイート：Kuramoto 動力学とデコーダー単体の影響を測定する包括的なスイートを提供。