Capsize-Games/airunner

Offline inference engine for art, real-time voice conversations, LLM powered chatbots and automated workflows

What it solves

AI Runnerは、AIコンパニオンとの対話やAIアートの生成を行うための、プライベートでオフラインの環境を提供します。すべてをユーザーのハードウェア上でローカルに実行することで、インターネット接続、APIキー、サブスクリプションの必要性を排除し、会話、記憶、そして創作物をプライベートに保ちます。

How it works

このプロジェクトは、カスタマイズ可能なAIコンパニオンと、レイヤー構造のアートキャンバスを組み合わせています。コンパニオンは、ローカルLLM、Text-to-Speech (TTS)、Speech-to-Text (STT) を使用して、RAGを活用した長期記憶を持つ音声対話を行います。アートキャンバスには、SDXLやZ-Image Turboのような画像生成モデルが統合されており、image-to-imageやinpaintingを使用して、スケッチ、描画、反復的な作業が可能です。また、ヘッドレスHTTP APIサーバーとして動作し、OllamaやOpenAIエンドポイントと互換性のあるリモートアクセスや他のツールとの統合も可能です。

Who it’s for

クラウドサービスに依存せず、パートナーシップやクリエイティブなアート生成のための、高度にプライベートなローカルAI体験を求めるユーザー。

Highlights

  • Privacy-First Design: 外部APIやテレメトリなしの完全ローカル実行。
  • Multimodal Capabilities: 音声対話 (TTS/STT) と画像生成の統合。
  • RAG-Powered Memory: コンパニオンは、セッションを越えてユーザーの長期記憶を構築します。
  • Layered Art Canvas: スケッチ、合成、image-to-imageによる反復作業をサポートする描画サーフェス。
  • Flexible Deployment: GUIアプリケーション、またはOllama/OpenAI互換のヘッドレスAPIサーバーとして利用可能。
  • Model Management: HuggingFaceやCivitAIのモデルをダウンロードするための組み込みのダウンローダー。