Apple SpeechAnalyzer API Benchmark: Performance vs Whisper and SFSpeechRecognizer
Apple SpeechAnalyzer API Benchmark: Performance vs Whisper and SFSpeechRecognizer
Apple SpeechAnalyzer 在裝置端準確度超越 Whisper Small
Apple 的全新 SpeechAnalyzer API(於 iOS 26 與 macOS 26 中推出)在所有測試的模型中,是目前最準確的英文裝置端語音引擎。在利用 LibriSpeech 語料庫進行的基準測試中,SpeechAnalyzer 在清晰語音上的字錯誤率(WER)達到 2.12%,在嘈雜語音上則為 4.56%,超越了 Whisper Small(其紀錄分別為 3.74% 與 7.95%)。
除了準確度之外,SpeechAnalyzer 每秒音訊的處理速度約為 Whisper Small 的三倍。在 Apple M2 Pro (32GB, macOS 26.5.1) 上,所有測試的引擎皆能以快於實時的速度運行,轉錄速度範圍從 12x 到 40x。
比較字錯誤率 (WER) 結果
| Engine | test-clean WER | test-other WER | Model size |
|---|---|---|---|
| Apple SpeechAnalyzer (iOS/macOS 26) | 2.12% | 4.56% | system |
| Whisper Small (WhisperKit CoreML) | 3.74% | 7.95% | ~460MB |
| Whisper Base | 5.42% | 12.51% | ~140MB |
| Whisper Tiny | 7.88% | 17.04% | ~40MB |
| Apple SFSpeechRecognizer (legacy) | 9.02% | 16.25% | system |
註:WER 越低表示準確度越高。
從 SFSpeechRecognizer 遷移至 SpeechAnalyzer
開發者應立即從舊有的 SFSpeechRecognizer 遷移至新的 SpeechAnalyzer API。這次遷移能顯著提升準確度,在相同的音訊下,將字錯誤率降低 3.5 到 4 倍。具體而言,清晰語音的 WER 從 9.02% 降至 2.12%,而嘈雜語音的 WER 從 16.25% 降至 4.56%。
除了原始準確度之外,SpeechAnalyzer 還能產生具有正確標點符號與大小寫的更高品質輸出,而舊有的引擎輸出則較為粗糙。
SpeechAnalyzer 與 Whisper 的權衡與使用場景
雖然 SpeechAnalyzer 是目前 Apple 硬體上進行英文轉錄的最佳選擇,但 Whisper 維持了兩項主要優勢:
- 語言支持: Whisper 支持廣泛的語言,而 SpeechTranscriber 支持約 30 種語言區域 (locales)。
- 平台無關性: Whisper 可在任何平台運行,而 SpeechAnalyzer 僅限於運行 OS 26 的 Apple 平台。
對於開發部署裝置端 AI 的開發者而言,使用系統提供的 SpeechAnalyzer 可減少應用程式包體積 (app bundle size),因為模型是整合在 OS 中,而非打包在應用程式內。
基準測試方法論與驗證
為了確保結果具備可重複性且無偏見,基準測試採用了幾項嚴格的控制措施:
- LibriSpeech Corpus: 使用 LibriSpeech 允許與 OpenAI 的 Whisper 公布數據進行直接比較。Whisper Tiny、Base 與 Small 的基準測試結果與 OpenAI 公布的數據非常接近,僅因 CoreML 量化與更嚴格的文本正規化 (text normalizer) 而產生微小的正向偏差。
- Production Code Paths: 引擎皆透過 Inscribe app 使用的相同生產環境代碼路徑運行,而非實驗室環境。
- Text Normalization: 所有輸出皆經過一個正規化器,處理大小寫、標點符號與數字轉文字,以確保引擎不會因格式差異而受到懲罰。
- On-Device Verification: 測試框架強制進行裝置端識別,以防止靜默切換至雲端伺服器,從而確保本地運算能力的公平比較。
社群洞察與反對觀點
社群討論突顯了 SpeechAnalyzer 可能仍存在不足之處,或存在其他替代模型:
- 模型比較: 有些用戶認為,針對舊款 Whisper 模型 (Tiny, Base, Small) 進行基準測試是不夠的,建議應與 Whisper Large-V3 Turbo 或更先進的技術 (state-of-the-art) 技術模型(如 Nvidia's Parakeet 或 Mistral's Voxtral)進行比較。
- 語言自動偵測: 用戶對缺乏語言自動偵測功能表示不滿,指出 Apple 要求用戶手動選擇語言,這可能導致在選擇錯誤的語言區域 (locale) 時產生亂碼輸出。
- 真實世界性能: 一些開發者回報,SpeechAnalyzer 處理多樣化音訊(音樂、多位講者)表現良好,但處理專有名詞時可能較為吃力,經常返回音素相似的單字。
- 時間戳記 (Timestamping): 雖然 SpeechAnalyzer 為英文提供字級別的時間戳記,但一些用戶指出,像 ElevenLabs' Scribe v2 這樣的多平台工具在多語言時間戳記方面仍具備優勢。
"Apple 的全新引擎也擊敗了 Whisper Small... 且每秒音訊的運算量僅約為 Whisper Small 的三分之一。對於英文,在 Apple 硬體上,內建引擎是目前我們所能測量的最強裝置端選項。"
研究限制
- 範圍: 本基準測試僅限於英文朗讀語音 (LibriSpeech) | 且不涵蓋口音語音、遠場音訊或多講者會議環境。
- 硬體: 測試是在單一機器 (M2 Pro, macOS 26.5.1) 上進行的。雖然準確度在 Apple Silicon 平台上通常是一致的,但處理速度會因晶片而異。 |