Capsize-Games/airunner

What it solves

AI Runnerは、AIコンパニオンとの対話やAIアートの生成を行うための、プライベートでローカルファーストな環境を提供します。すべてをユーザー自身のハードウェア上で実行するため、インターネット接続、APIキー、またはサブスクリプションの必要性を排除し、データのプライバシーとオフラインでの利用可能性を確保します。

How it works

このシステムは、さまざまなAIランタイムをオーケストレートするヘッドレスデーモン（FastAPIサーバー）を介して動作します。LLMおよびSTT機能には、ネイティブなサイドカーとしてllama.cppとwhisper.cppを使用し、画像生成（SDXL、Z-Image Turbo）およびTTSにはPythonベースのランタイムを使用します。デスクトップGUIクライアントがこのデーモンに接続し、チャットやアート作成のためのユーザーインターフェースを提供します。

Who it’s for

長期的な記憶と、AI支援による描画および画像生成のためのレイヤー化されたアートキャンバスを備えた、高度にカスタマイズ可能なプライベートなAIコンパニオンを、すべてローカルで実行したいユーザー向けです。

Highlights

• Customizable AI Companion: 会話を通じて進化する、特定の性格、声、気分を持つ名前付きのコンパニオンを作成できます。
• Layered Art Canvas: スケッチ、ペインティング、およびインペインティングやフィルターを備えたimage-to-image生成をサポートする、マルチレイヤーの描画サーフェスです。
• Local-First Privacy: デフォルトではテレメトリ（遠隔測定）もなく、データがマシンから外部へ出ることもありません。
• Multimodal Capabilities: 音声会話のための、統合されたText-to-Speech (TTS) および Speech-to-Text (STT) 機能。
• RAG-Powered Memory: コンパニオンは、Retrieval-Augmented Generationを使用して、セッションを越えてユーザーの長期的な記憶を構築します。
• Environmental Awareness: コンパニオンは、現在の時刻、日付、および現地の天気を把握しています。
• Model Management: HuggingFaceおよびCivitAIモデル用の組み込みのダウンローダー。