CrispStrobe/CrispASR

C++ ggml runtime hub for multilingual ASR and TTS models: Cohere Transcribe, Parakeet TDT, Voxtral, Canary 1B v2, etc, plus universal forced alignment, and more

解决的问题

CrispASR 提供一个统一的、高性能的 C++ 引擎，用于自动语音识别（ASR）和文本转语音（TTS）。它消除了对复杂 Python 环境、PyTorch 或多个独立二进制文件的需求，使用户能够在一个可移植的可执行文件中运行数十个最先进的开源权重语音模型。

工作原理

CrispASR 作为 whisper.cpp 的扩展构建，使用 ggml C++ 运行时执行大量 ASR 和 TTS 架构。它支持广泛的后端（包括 OpenAI Whisper、NVIDIA Parakeet 和 Mistral Voxtral），并能从 GGUF 模型文件中自动检测所需的后端。该引擎具有高度可移植性，可编译为 WebAssembly 以在浏览器端运行，并提供 Python、Rust、Dart 和 Go 等多种语言的绑定。

适用人群

专为需要高效、离线语音转文本和文本转语音功能但无需 Python 依赖的开发者和用户设计。特别适用于构建跨平台应用（如配套的 Flutter 应用 CrisperWeaver）或通过 HTTP API 部署语音服务的场景。

主要亮点

  • 大规模模型支持：一个二进制文件中包含 54 个 ASR 后端和 52 个 TTS 引擎。
  • 零 Python 依赖：作为独立的 C++ 二进制文件运行，无需 pip install 或 PyTorch。
  • 高可移植性：支持 Windows、macOS、Linux 以及用于浏览器使用的 WebAssembly。
  • 灵活部署：提供 CLI、集成 HTTP 服务器以及多种编程环境的语言绑定。
  • 硬件加速：原生支持 CUDA、HIP、Vulkan 和 Metal GPU 加速。

相关

  • 项目
    handy-computer/transcribe.cpp

    transcribe.cpp 是一个原生 C/C++ 库，可使用 ggml 上的 GGUF 格式，在 Metal、Vulkan、CUDA、ROCm 或 tinyBLAS 加速 CPU 后端上快速运行数十种现代 STT 模型（如 Parakeet、Whisper、Qwen3-ASR、Voxtral 等）。该项目提供 CLI、量化工具以及官方 Python、TypeScript、Rust 和 Swift 绑定，全部采用 MIT 许可证。

  • 项目
    openai/whisper

    Whisper 是 OpenAI 开发的基于 Transformer 的开源语音转文本系统，可处理多种语言的转录、语言识别和翻译。它作为一个可通过 pip 安装的包发布，提供六种模型大小（tiny → large，以及快速的 “turbo” 版本）。通过 CLI (`whisper …`) 和简单的 Python API (`whisper.load_model(...).transcribe(...)`)，只需少量命令即可将音频文件转换为文本。该项目运行在 Python 3.8-3.11 和 PyTorch 上，并且需要 ffmpeg（可选需要 Rust 用于分词器）。所有代码和模型权重均采用 MIT 许可。

  • 项目
    ggml-org/whisper.cpp

    一个高性能的 C/C++ 版本 OpenAI Whisper 模型，可在多个平台上实现高效、离线、设备端的自动语音识别。

  • 项目
    ahmetoner/whisper-asr-webservice

    一个通用的语音识别工具包，将 Whisper 模型封装为 REST API，以便于部署和集成。

  • 项目
    collabora/WhisperLive

    WhisperLive 是一个基于 OpenAI Whisper 模型的开源近实时语音转录服务器。支持多种推理后端（faster-whisper、NVIDIA TensorRT、Intel OpenVINO、AMD ROCm），提供单词级时间戳、热词增强、说话人分离和可选翻译功能，并提供简单的命令行客户端和 Python 流式 API。提供 GPU 和 CPU 部署的 Docker 镜像，浏览器和 iOS 扩展可让你直接从网页或移动设备转录音频。