Tobias-Fischer/rt_gene
RT-GENE: Real-Time Eye Gaze and Blink Estimation in Natural Environments
解決的問題
本專案提供在自然環境中進行即時眼動與眨眼估計的工具。它解決了使用標準相機影像準確追蹤人注視方向與是否眨眼的挑戰,特別適用於人機互動與視覺導向監控。
工作原理
此系統由兩個主要元件組成:用於視線方向估計的 RT-GENE 與用於眨眼估計的 RT-BENE。系統處理臉部與眼部影像,以決定視線方向與眨眼機率。目前實作為使用 PyTorch 與 OpenCV 的 ROS 2 執行時移植版本,核心 Python 程式邏輯用於推論,ROS 2 節點則用於整合至機器人系統。支援多種硬體後端,包括 CUDA、Apple Metal (MPS) 與 CPU。
適用對象
本軟體專為從事電腦視覺、機器人學與人機互動的研究人員與開發者設計,適用於需要將即時眼動追蹤與眨眼偵測整合至應用程式的使用者。
主要亮點
- 雙重功能:整合 RT-GENE 的視線估計與 RT-BENE 的眨眼偵測。
- ROS 2 整合:提供現代化的執行時移植版本,具備專用的 ROS 2 接口與節點,便於整合至機器人流程中。
- 跨平台支援:相容 Linux、macOS (arm64) 與 Windows,支援不同 GPU 的最佳化裝置選擇。
- 獨立示範:包含可在無需完整 ROS 2 環境下執行單張影像推論的指令碼。
相關
- 專案
- 專案
- 專案
- 專案
- 專案