v-modal/vmodal_sdk_smartglass

SDK for Visual Memory Search with Smart Glasses

解決的問題

它簡化了從基於Android的智慧眼鏡向雲端擷取服務直播第一人稱影片的複雜過程。它消除了開發者的「媒體管道」負擔,處理硬體編碼、安全傳輸和網路恢復等困難任務,使他們能夠專注於使用者體驗。

運作方式

該SDK採用混合架構,結合了用於Android原生管理的Kotlin用戶端和用於高效能媒體處理的Rust核心。

  1. Kotlin用戶端:管理公共API、相機協調以及擷取會話的生命週期。
  2. Rust核心:處理有界媒體佇列、H.264標準化、MPEG-TS多工和加密SRT傳輸。
  3. 資料流:影片透過Meta DAT擷取,使用Android的H.264硬體編碼器編碼,由Rust核心處理,並透過加密SRT串流到開發者後端提供的即時擷取目標。

適用對象

為智慧眼鏡建構第一人稱影片應用的開發者,例如遠端專家支援、免持現場工作、即時培訓以及AR/VR伴侶體驗。

亮點

  • 低延遲:使用GOP感知背壓和有界佇列,防止弱網路上的記憶體增長和延遲峰值。
  • 彈性連線:具有可設定的SRT重連,帶有抖動和逾時,以維持穩定串流。
  • 硬體最佳化:利用Android硬體H.264編碼提高效率。
  • 開發者友善:提供使用FlowStateFlow的簡潔Kotlin API,並包含Android模擬器,無需實體硬體即可測試。

相關

  • 專案
  • 專案
  • 專案
  • 專案