xybrid-ai/xybrid

Xybrid – 适用于应用程序与游戏的设备端 AI

这是什么 – Xybrid 是一套原生 SDK 与 CLI 工具，让您能直接在设备上运行大型语言模型 (LLM)、语音转文字 (ASR)、文字转语音 (TTS) 以及视觉语言模型。它可在离线状态下运行，无需云端 API，并支持 iOS、Android、macOS、Linux、Windows 与 Unity。

主要功能

• 统一 API：涵盖 Flutter、Swift、Kotlin、React Native、Unity、Rust 与 Python。
• 多模型流水线 (MMP)：通过单一 YAML 描述即可串联 ASR → LLM → TTS（或其他组合）。
• 工具调用 – 本地 LLM 可调用用户定义的函数。
• 硬件加速 – Apple 设备上的 Metal/ANE，Linux 上可选用 Vulkan；其他平台则在 CPU 上运行。
• 模型目录 – 数十种可供下载的 ONNX、GGUF 或 SafeTensors 模型，涵盖语音、文字、视觉与代码，皆可离线运行。
• 混合回退 – 每次运行皆可选择云端回退。

如何使用

1. 加入平台专属套件（例如：Flutter 使用 xybrid_flutter，Android 使用 xybrid-kotlin，Rust 使用 xybrid crate 等）。
2. 依名称加载模型，例如 TTS 使用 kokoro-82m，小型 LLM 使用 lfm2.5-230m。
3. 使用包含文字、音频或图像数据的 Envelope 调用 model.run(...)。
4. 接收结果 – 通常为 TTS 的 24 kHz WAV 音频文件，或 LLM 输出的纯文本。

示例 (Flutter)

final model = await Xybrid.model('kokoro-82m').load();
final result = await model.run(XybridEnvelope.text('Hello world'));
// result is a 24 kHz WAV audio buffer

示例 (多模型流水线)

# voice-assistant.yaml
stages:
  - model: whisper-tiny-ggml   # speech → text
  - model: qwen2.5-0.5b       # LLM processing
  - model: kokoro-82m         # text → speech

通过 CLI 或任何 SDK 运行此流水线，即可从语音问题产生语音回答，全程皆在设备端完成。

为何重要 – 大多数移动 AI 工具组需要服务器或仅限于单一模态。Xybrid 整合了多种模态，支持游戏引擎，并通过本地运行确保隐私。这对于开发聊天助理、语音控制游戏或任何需要在无网络环境下使用 AI 的应用程序的开发者来说极具吸引力。

授权 – Apache 2.0，允许商业使用与修改。