rocketride-org/rocketride-server
High-performance AI pipeline engine with a C++ core and 50+ Python-extensible nodes. Build, debug, and scale LLM workflows with 13+ model providers, 8+ vector databases, and agent orchestration, all from your IDE. Includes VS Code extension, TypeScript/Python SDKs, and Docker deployment.
RocketRide Server – 開源 AI 流水線引擎
是什麼 – RocketRide 是一個「AI 開發環境」(AIDE),可將你的常規 IDE(如 VS Code 等)轉換為 AI/ML 工作流程的視覺化建構器與執行環境。流水線以可攜式 JSON 格式(*.pipe)定義,透過 IDE 內的拖曳畫布進行編輯,並由高吞吐量多執行緒 C++ 引擎執行。同一個流水線可在 RocketRide Cloud(託管 SaaS)或本地部署(Docker、裸機、本地程序)上執行,無需任何程式碼變更。
核心功能
| 功能 | 你將獲得 |
|---|---|
| 視覺化流水線建構器 | 在 VS Code 內直接拖曳 >100 個節點(LLM 提供者、向量資料庫、OCR、NER、分塊等)進行建構、連接與設定。 |
| C++ 執行環境 | 專為低延遲、高吞吐量 AI 工作負載設計的原生多執行緒引擎。 |
| 多代理支援 | 內建 CrewAI 與 LangChain 集成;代理可鏈式呼叫並共享記憶體。 |
| SDK | Python 與 TypeScript 客戶端程式庫,僅需幾行程式碼即可從任何應用程式呼叫流水線。 |
| 可觀測性 | 從 IDE 即時追蹤 token 使用量、延遲、記憶體、呼叫樹等。 |
| 零運維 / 自行托管 | 一鍵式 Docker 鏡像(ghcr.io/rocketride-org/rocketride-engine)或本地二進位檔;亦提供管理式雲端服務。 |
| 可擴充節點 | 節點支援 Python 擴充;可將自訂節點發佈至市場。 |
技術堆疊
- 核心執行環境:C++(多執行緒,高效率)
- IDE 整合:VS Code 擴充(Webview UI)
- SDK:Python(PyPI 上的
rocketride)、TypeScript(npm 上的rocketride) - 容器化:Docker 鏡像,Helm 圖表用於叢集部署
- 通訊:WebSocket 端點(
ws://localhost:5565本地)或雲端服務用 HTTPS
典型工作流程
- 安裝 RocketRide VS Code 擴充。
- 建立
*.pipe檔案 – UI 顯示畫布,你可拖曳節點(如 Webhook 來源 → LLM → 向量資料庫 → 輸出)。 - 設定每個節點(模型提供者 API 金鑰、資料庫連接字串等)。
- 在畫布上點選 ▶ 以本地執行流水線,或讓客戶端指向
ROCKETRIDE_URI=ws://localhost:5565(自行托管)或https://api.rocketride.ai(雲端)並提供驗證金鑰。 - 使用 Python/TS SDK 從你的應用程式呼叫流水線,或將其作為程式碼助理代理的工具公開。
快速入門 / 安裝
- VS Code 擴充 – 在市場中搜尋「RocketRide」或從 Open VSX 下載。
- 本地執行引擎 – 讓擴充自動下載二進位檔,或手動拉取 Docker 鏡像:
docker pull ghcr.io/rocketride-org/rocketride-engine:latest docker run -d --name rocketride-engine -p 5565:5565 ghcr.io/rocketride-org/rocketride-engine:latest - 雲端服務 – 訪問 https://cloud.rocketride.ai 創建帳戶,取得 API 金鑰,並設定:
export ROCKETRIDE_URI=https://api.rocketride.ai export ROCKETRIDE_AUTH=your-api-token - SDK 使用(Python 範例):
from rocketride import RocketRideClient client = RocketRideClient(uri="ws://localhost:5565") result = client.run_pipe("my_pipeline.pipe", input={"text": "Hello"}) print(result)
授權與社群
- 伺服器執行環境與 SDK 以 MIT 授權釋出 – 完全開源,OSI 批准。
- 開發在 GitHub(問題、PR、CONTRIBUTING 指南)上協調,Discord 社群提供支援與合作。
- CI 指示燈顯示自動測試;發行版本化(如
server-vX.Y.Z)。
適合誰使用
- 需要一種可重現、版本控制方式來串連 LLM 呼叫、向量儲存及其他 AI 元件的資料科學或 ML 團隊。
- 希望在本地保留資料主權,同時仍能享受視覺化流水線建構器的公司。
- 偏好單一、語言無關執行環境,而非串接多個獨立服務的 AI 增強型應用開發者。
RocketRide 致力於成為 AI 應用的「引擎」,處理從編排到可觀測性的所有環節,同時讓你留在自己喜愛的編輯器中。
相關
- 專案
- 專案
- Dispatch
- 專案
- 專案