runanywhere-sdks: 這是什麼、解決了什麼問題以及為什麼它正受到關注

解決了什麼問題

RunAnywhere 提供了一套 SDK，讓開發者可以直接將 AI 能力——例如大型語言模型 (LLMs)、語音轉文字 (speech-to-text) 和文字轉語音 (text-to-speech)——整合到行動裝置與網頁應用程式中。這消除了對雲端 AI 服務的需求，確保數據保持私密、可在離線狀態下運作，且沒有網路延遲。

如何運作

該專案提供基於共享 C++ 核心的跨平台 SDK (Swift, Kotlin, React Native, Flutter, 和 Web)。它利用了優化的執行環境，例如用於 LLM 推論的 llama.cpp 以及用於語音模型的 ONNX (Whisper 和 Piper)。開發者可以初始化 SDK，下載特定模型 (例如 SmolLM2, Qwen, Llama 3.2)，並完全在使用者裝置上執行任務，例如文字生成、轉錄或語音合成。

對象是誰

想要實作隱私優先、離線 AI 功能，且不想管理複雜底層推論引擎的 iOS, Android, Web, React Native 或 Flutter 開發者。

重點摘要

• 多平台支援: 提供 iOS/macOS 和 Android 的穩定 SDK，並對 Web, React Native, 和 Flutter 提供 Beta 支援。
• 全面的 AI 流程: 支援完整的語音助手流程 (STT $\rightarrow$ LLM $\rightarrow$ TTS)。
• 多樣化的模型支援: 相容於 GGUF 格式的 LLMs, Whisper 用於語音轉文字，以及 Piper 用於神經網路文字轉語音。
• 進階能力: 包括對結構化 JSON 輸出、工具呼叫 (tool calling) 以及在 iOS 和 Web 上的視覺語言模型 (VLM) 的支援。
• 裝置端代理 (On-Device Agents): 包括自主代理的 Playground 範例，這些代理可以在本地端控制 Android 裝置或自動化瀏覽器任務。