cosmo-wander-ai/cosmo-edge
Production-grade C++ edge AI engine for video analytics and on-device VLM across Sophon, Rockchip RKNN, and x86, with visual orchestration, real-time OSD, events, and reproducible benchmarks.
解決する課題
CosmoEdge は、ビデオ AI モデルを展開可能なアプリケーションに変えるために設計された C++ エッジ AI エンジンです。さまざまなハードウェアプラットフォーム（Sophon、Rockchip、x86）間でビデオ分析、視覚言語モデル（VLM）、イベントワークフローの展開を簡素化し、各プラットフォームで必要なランタイムやモデルアーティファクトが異なるにもかかわらず、一貫したオーケストレーションエクスペリエンスを提供します。
仕組み
システムは、メディア処理、推論スケジューリング、イベント管理を処理する C++ エンジンコアと、ビジュアルオーケストレーション用の Web コンソールで構成されています。ユーザーはブラウザでパイプラインを構成し、モデル、ルール、出力アクションをバインドできます。エンジンは Sophon BMRT/VPU、RKNN、ONNX Runtime を含む複数のバックエンドをサポートしており、同じワークフローをさまざまなエッジデバイスに適応させることができます。
対象ユーザー
エッジハードウェア向けのリアルタイムビデオ分析およびプロンプト駆動型ビジョンアプリケーションを構築する開発者やエンジニア、特に Sophon または Rockchip NPU を使用するユーザーを対象としています。
主な特長
- マルチプラットフォーム対応： Sophon（BM1688、CV186X）および Rockchip（RK3576、RV1126B）NPU、さらに x86 Linux/Windows をネイティブサポート。
- ビジュアルオーケストレーション： ブラウザベースのインターフェースで AI パイプラインを構成でき、すべてのワークフローでコードを書く必要がありません。
- VLM とオープンボキャブラリ検出： プロンプトベースの視覚判断と、オープンボキャブラリ検出のための GroundingDINO をサポート。
- エッジ統合： REST、WebSocket、MQTT、または HTTP webhook を介して構造化イベントを配信。
- C++17 エンジン： マルチチャネルメディアと推論スケジューリングのための高性能ネイティブランタイム。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- Dispatch