CrispStrobe/CrispASR

C++ ggml runtime hub for multilingual ASR and TTS models: Cohere Transcribe, Parakeet TDT, Voxtral, Canary 1B v2, etc, plus universal forced alignment, and more

解決的問題

CrispASR 提供一個統一的、高效率的 C++ 引擎，用於自動語音辨識（ASR）與文字轉語音（TTS）。它消除了對複雜 Python 環境、PyTorch 或多個獨立二進位檔的需求，讓使用者能以單一可攜式可執行檔，運行數十個最先進的開源權重語音模型。

工作原理

CrispASR 作為 whisper.cpp 的延伸建構，使用 ggml C++ 執行環境來執行大量 ASR 與 TTS 架構。支援廣泛的後端（包括 OpenAI Whisper、NVIDIA Parakeet 與 Mistral Voxtral），並能從 GGUF 模型檔中自動偵測所需的後端。此引擎具有高度可攜性，可編譯為 WebAssembly 以在瀏覽器端執行，並提供 Python、Rust、Dart 與 Go 等多種語言的綁定。

適用對象

專為需要高效、離線語音轉文字與文字轉語音功能，但無需 Python 依賴的開發者與使用者設計。特別適用於建構跨平台應用（如配套的 Flutter 應用 CrisperWeaver）或透過 HTTP API 部署語音服務的場景。

主要特色

  • 大規模模型支援：單一二進位檔內包含 54 個 ASR 後端與 52 個 TTS 引擎。
  • 零 Python 依賴：作為獨立的 C++ 二進位檔執行，無需 pip install 或 PyTorch。
  • 高可攜性：支援 Windows、macOS、Linux，以及用於瀏覽器使用的 WebAssembly。
  • 彈性部署：提供 CLI、整合式 HTTP 伺服器，以及多種程式語言環境的語言綁定。
  • 硬體加速：內建支援 CUDA、HIP、Vulkan 與 Metal GPU 加速。

相關

  • 專案
    handy-computer/transcribe.cpp

    transcribe.cpp 是一個原生 C/C++ 庫，可在 ggml 上使用 GGUF 格式，於 Metal、Vulkan、CUDA、ROCm 或 tinyBLAS 加速 CPU 後端上快速執行數十種現代 STT 模型（如 Parakeet、Whisper、Qwen3-ASR、Voxtral 等）。專案提供 CLI、量化工具，以及官方 Python、TypeScript、Rust 和 Swift 綁定，全部採用 MIT 授權。

  • 專案
    openai/whisper

    Whisper 是 OpenAI 開發的基於 Transformer 的開源語音轉文字系統，可處理多種語言的轉錄、語言識別和翻譯。它作為一個可透過 pip 安裝的套件發布，提供六種模型大小（tiny → large，以及快速的 “turbo” 版本）。透過 CLI (`whisper …`) 和簡單的 Python API (`whisper.load_model(...).transcribe(...)`)，只需少量指令即可將音訊檔案轉換為文字。該專案運行在 Python 3.8-3.11 和 PyTorch 上，並且需要 ffmpeg（可選需要 Rust 用於分詞器）。所有程式碼和模型權重均採用 MIT 授權。

  • 專案
    ggml-org/whisper.cpp

    一個高效能的 C/C++ 版 OpenAI Whisper 模型，可在多個平台上實現高效、離線、裝置端的自動語音辨識。

  • 專案
    ahmetoner/whisper-asr-webservice

    一個通用的語音識別工具包，將 Whisper 模型封裝為 REST API，以便於部署與集成。

  • 專案
    collabora/WhisperLive

    WhisperLive 是一個基於 OpenAI Whisper 模型的開源近即時語音轉錄伺服器。支援多種推論後端（faster-whisper、NVIDIA TensorRT、Intel OpenVINO、AMD ROCm），提供單字級時間戳、熱詞增強、說話人分離與可選翻譯功能，並提供簡單的命令列客戶端與 Python 流式 API。提供 GPU 與 CPU 部署的 Docker 鏡像，瀏覽器與 iOS 擴充功能可讓你直接從網頁或行動裝置轉錄音訊。