rerun: 實體 AI 與機器人技術的多模態數據層與視覺化除錯器
rerun: 實體 AI 與機器人技術的多模態數據層與視覺化除錯器
它解決了什麼問題
Rerun 是一個針對多模態數據的視覺化與時序除錯器。它解決了在複雜的 AI 與機器人系統中,僅靠文字日誌不足以進行除錯的問題。開發者不再需要依賴簡單的日誌,而是可以視覺化機器人對世界的內部表示——例如攝影機畫面、lidar 掃描與 3D 地圖——如何隨時間演變,從而精確地找出系統失效的確切時間與原因。
運作原理
Rerun 使用 Rust 編寫,並採用專為特定用途設計的 column-chunk 儲存系統,能從機器人日誌、模擬器與網路影片等各種來源攝取多速率、多模態的數據(包括影像、點雲、tensors 與關節狀態)。它提供 Python、Rust 與 C++ SDK 來記錄數據,並提供專用的查看器來即時同步渲染這些串流。數據也可以透過 dataframes 或 SQL 進行查詢,讓開發者能提取乾淨的數據集用於訓練與評估。
目標對象
它是為處理感測器、隨時間演變的 2D/3D 狀態的開發者所設計,特別是機器人技術、電腦視覺與模擬領域的開發者。
重點功能
- 多模態支援:處理影像、點雲、時間序列、tensors、變換(transforms)與關節狀態。
- 時序除錯:內建的查看器允許使用者在片段中進行捲動,並並排比較感測器數據。
- 訓練整合:數據可以直接串流到訓練流程中,無需執行匯出作業。
- 跨語言 SDK:完整支援 Python、Rust 與 C++。
- 彈性攝取:相容於 MCAP 與 LeRobot 等格式。
Sources
- undefinedrerun-io/rerun