xybrid-ai/xybrid
Cross-platform on-device AI toolkit
Xybrid – アプリとゲーム向けのデバイス内AI
何であるか – Xybridは、大規模言語モデル(LLM)、音声認識(ASR)、音声合成(TTS)を、幅広いプラットフォーム上でデバイス上でローカルに実行できるオープンソースSDKです。Flutter、Swift、Kotlin、Unity、Rust、Python、Webで動作する一貫したAPIを提供し、ONNX、GGUF、SafeTensors形式のモデルを読み込むことができます。
なぜ重要か – 推論はすべてデバイス上で行われるため、初期のモデルダウンロード後はクラウドサービスやAPIキーが不要です。これによりプライバシー保護、オフライン動作、ランタイムでのモデル交換(アプリの再リリースなし)が可能になります。
コア機能
| 機能 | 詳細 |
|---|---|
| 音声認識 | Whisper‑tiny、Wav2Vec2‑base など、ONNX/ggml形式のモデル。 |
| 音声合成 | Kokoro‑82M、KittenTTS‑Nano、NeuTTS‑Nano – 出力は24 kHzのWAVファイル。 |
| LLM推論 | 数百のモデル(LFM2.5、SmolLM2、Gemma、Llama 3.2、Qwen 3.5、Bonsai 27Bなど)をサポート。ツール呼び出しと思考の連鎖(chain-of-thought)も可能。 |
| 視覚言語モデル | コンパクトなVLM(LFM2‑VL、LFM2.5‑VL)。 |
| マルチモデルパイプライン(MMP) | YAMLによる簡潔な記述で、ASR → LLM → TTS(または任意の順序)を連結可能。 |
| ハードウェアアクセラレーション | iOS/macOSではMetal + Apple Neural Engine、LinuxではオプションのVulkan、その他のプラットフォームではCPU。 |
| ハイブリッド/クラウドフォールバック | デバイスが処理できない場合、リモートサービスに処理を転送可能。 |
| テレメトリ(オプトイン) | APIキーを介して使用状況統計を送信可能。 |
サポートプラットフォームと言語バインディング
| プラットフォーム | バインディング | パッケージマネージャ |
|---|---|---|
| Flutter | xybrid_flutter |
pub.dev |
| iOS / macOS (Swift) | xybrid (Swift Package) |
Swift Package Manager |
| Android (Kotlin) | xybrid-kotlin |
Maven Central |
| Unity | ai.xybrid.sdk |
OpenUPM / Git URL |
| Rust | xybrid crate |
crates.io |
| Python | xybrid binding (ソース) |
pip(ソース経由) |
| Web (プレビュー) | JavaScript SDK | npm(プレビュー) |
| CLI | xybrid実行可能ファイル |
スクリプトインストーラ |
セットアップ例(Flutter)
# pubspec.yaml
dependencies:
xybrid_flutter: ^0.6.0
final model = await Xybrid.model('kokoro-82m').load();
final result = await model.run(XybridEnvelope.text('Hello world'));
// result は24 kHzのWAVオーディオバッファ
同じパターンはKotlin、Swift、C#(Unity)、Rustでも利用可能。モデルIDでモデルを読み込み、Envelope(テキストまたはオーディオ)を入力し、処理済みのオーディオを取得します。
モデルカタログ
Xybridは組み込みレジストリ(xybrid.ai/modelsを参照)を提供しており、以下のモデルを含んでいます:
- ASR – Whisper‑tiny(39 M)、Wav2Vec2‑base(95 M)
- TTS – Kokoro‑82M(82 M、24ボイス)、KittenTTS‑Nano(15 M)、NeuTTS‑Nano(120 M)
- LLMs – 230 Mから27 Bパラメータまで、多言語、推論、ツール呼び出し、マルチモーダル対応モデルをカバー。
- 視覚言語 – コンパクトなVLM(450 M〜3 B)。
独自モデルも
model_metadata.jsonを提供することで追加可能(実験的)。
類似プロジェクトとの違い
| 機能 | Xybrid | Ollama | llama.cpp | ONNX Runtime |
|---|---|---|---|---|
| モバイル(iOS/Android) | ✅ | ❌ | ❌ | ✅ |
| Unity統合 | ✅ | ❌ | ❌ | ❌ |
| マルチモデルパイプライン | ✅ | ❌ | ❌ | ❌ |
| 1つのSDKでASR+LLM+TTSを統合 | ✅ | ❌ | ❌ | ❌ |
| インプロセス実行、サーバー不要 | ✅ | ❌ | ✅ | ✅ |
| オフライン最優先、クラウド不要 | ✅ | ✅ | ✅ | ✅ |
ライセンスとコミュニティ
- ライセンス – Apache 2.0(許容性高く、商用利用に適しています)。
- ドキュメント – https://docs.xybrid.dev
- Discord – https://discord.gg/YhFHHkhbad
- GitHub – イシュー、プルリクエスト、グッドファーストイシュー、CONTRIBUTINGガイドを提供。
TL;DR
Xybridは、モバイルアプリ、デスクトップソフトウェア、Unityゲームに音声認識、音声合成、大規模言語モデル推論を統合するための、一貫性がありオフライン最優先の方法を提供します。主要言語向けの準備済みバインディングと、ハードウェアアクセラレーションを備えた実行環境を備えています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- Dispatch
- プロジェクト