k2-fsa/sherpa-onnx
Speech-to-text, text-to-speech, speaker diarization, speech enhancement, source separation, and VAD using next-gen Kaldi with onnxruntime without Internet connection. Support embedded systems, Android, iOS, HarmonyOS, Raspberry Pi, RISC-V, RK NPU, Axera NPU, Ascend NPU, x86_64 servers, websocket server/client, support 12 programming languages
解决的问题
本项目提供了一个全面且高性能的工具包,用于在各种设备上本地运行语音和音频处理模型。它通过使语音转文字、文字转语音和说话人识别等任务直接在消费级硬件、移动设备和嵌入式系统上运行,消除了对云端API的需求。
工作原理
它利用 ONNX Runtime 在不同的硬件架构上执行预训练的音频模型。通过支持多种编程语言和操作系统,它允许开发者将复杂的音频AI功能集成到各种应用程序中,范围涵盖桌面软件、移动应用、嵌入式系统以及通过 WebAssembly 运行的 Web 浏览器。
适用人群
适用于需要在资源受限环境或数据必须保留在设备上的隐私敏感应用中部署音频AI模型(如 ASR、TTS 或 VAD)的开发者和工程师。对于那些追求跨平台兼容性(包括 Android、iOS、Windows、Linux 和专用 NPU 硬件)的用户尤其有用。
亮点
- 支持广泛的音频任务,包括语音识别(流式和非流式)、语音合成、说话人日志和关键词检测。
- 具有高度的可移植性,支持多种编程语言(C++、Python、Java、Go、Rust、Swift 等)和平台(Android、iOS、WebAssembly 等)。
- 针对多种硬件进行了优化,包括支持各种 NPU(Rockchip、Qualcomm、Intel 等)以及 Raspberry Pi 和 NVIDIA Jetson 等边缘设备。
- 提供丰富的预训练模型和可直接使用的移动端及桌面端演示应用程序。
相关
- 项目
- 项目
- 项目
- 项目
- 项目