rocketride-org/rocketride-server

High-performance AI pipeline engine with a C++ core and 50+ Python-extensible nodes. Build, debug, and scale LLM workflows with 13+ model providers, 8+ vector databases, and agent orchestration, all from your IDE. Includes VS Code extension, TypeScript/Python SDKs, and Docker deployment.

RocketRide Server – 開源 AI 流水線引擎

是什麼 – RocketRide 是一個「AI 開發環境」(AIDE),可將你的常規 IDE(如 VS Code 等)轉換為 AI/ML 工作流程的視覺化建構器與執行環境。流水線以可攜式 JSON 格式(*.pipe)定義,透過 IDE 內的拖曳畫布進行編輯,並由高吞吐量多執行緒 C++ 引擎執行。同一個流水線可在 RocketRide Cloud(託管 SaaS)或本地部署(Docker、裸機、本地程序)上執行,無需任何程式碼變更。

核心功能

功能 你將獲得
視覺化流水線建構器 在 VS Code 內直接拖曳 >100 個節點(LLM 提供者、向量資料庫、OCR、NER、分塊等)進行建構、連接與設定。
C++ 執行環境 專為低延遲、高吞吐量 AI 工作負載設計的原生多執行緒引擎。
多代理支援 內建 CrewAI 與 LangChain 集成;代理可鏈式呼叫並共享記憶體。
SDK Python 與 TypeScript 客戶端程式庫,僅需幾行程式碼即可從任何應用程式呼叫流水線。
可觀測性 從 IDE 即時追蹤 token 使用量、延遲、記憶體、呼叫樹等。
零運維 / 自行托管 一鍵式 Docker 鏡像(ghcr.io/rocketride-org/rocketride-engine)或本地二進位檔;亦提供管理式雲端服務。
可擴充節點 節點支援 Python 擴充;可將自訂節點發佈至市場。

技術堆疊

  • 核心執行環境:C++(多執行緒,高效率)
  • IDE 整合:VS Code 擴充(Webview UI)
  • SDK:Python(PyPI 上的 rocketride)、TypeScript(npm 上的 rocketride
  • 容器化:Docker 鏡像,Helm 圖表用於叢集部署
  • 通訊:WebSocket 端點(ws://localhost:5565 本地)或雲端服務用 HTTPS

典型工作流程

  1. 安裝 RocketRide VS Code 擴充。
  2. 建立 *.pipe 檔案 – UI 顯示畫布,你可拖曳節點(如 Webhook 來源 → LLM → 向量資料庫 → 輸出)。
  3. 設定每個節點(模型提供者 API 金鑰、資料庫連接字串等)。
  4. 在畫布上點選 ▶ 以本地執行流水線,或讓客戶端指向 ROCKETRIDE_URI=ws://localhost:5565(自行托管)或 https://api.rocketride.ai(雲端)並提供驗證金鑰。
  5. 使用 Python/TS SDK 從你的應用程式呼叫流水線,或將其作為程式碼助理代理的工具公開。

快速入門 / 安裝

  • VS Code 擴充 – 在市場中搜尋「RocketRide」或從 Open VSX 下載。
  • 本地執行引擎 – 讓擴充自動下載二進位檔,或手動拉取 Docker 鏡像:
    docker pull ghcr.io/rocketride-org/rocketride-engine:latest
    docker run -d --name rocketride-engine -p 5565:5565 ghcr.io/rocketride-org/rocketride-engine:latest
    
  • 雲端服務 – 訪問 https://cloud.rocketride.ai 創建帳戶,取得 API 金鑰,並設定:
    export ROCKETRIDE_URI=https://api.rocketride.ai
    export ROCKETRIDE_AUTH=your-api-token
    
  • SDK 使用(Python 範例):
    from rocketride import RocketRideClient
    client = RocketRideClient(uri="ws://localhost:5565")
    result = client.run_pipe("my_pipeline.pipe", input={"text": "Hello"})
    print(result)
    

授權與社群

  • 伺服器執行環境與 SDK 以 MIT 授權釋出 – 完全開源,OSI 批准。
  • 開發在 GitHub(問題、PR、CONTRIBUTING 指南)上協調,Discord 社群提供支援與合作。
  • CI 指示燈顯示自動測試;發行版本化(如 server-vX.Y.Z)。

適合誰使用

  • 需要一種可重現、版本控制方式來串連 LLM 呼叫、向量儲存及其他 AI 元件的資料科學或 ML 團隊。
  • 希望在本地保留資料主權,同時仍能享受視覺化流水線建構器的公司。
  • 偏好單一、語言無關執行環境,而非串接多個獨立服務的 AI 增強型應用開發者。

RocketRide 致力於成為 AI 應用的「引擎」,處理從編排到可觀測性的所有環節,同時讓你留在自己喜愛的編輯器中。

相關

  • 專案
  • 專案
  • Dispatch
  • 專案
  • 專案