cosmo-wander-ai/cosmo-edge
Production-grade C++ edge AI engine for video analytics and on-device VLM across Sophon, Rockchip RKNN, and x86, with visual orchestration, real-time OSD, events, and reproducible benchmarks.
CosmoEdge 1.1 – エッジ AI ビデオ分析エンジン
概要 – C++ ベースのランタイムであり、さまざまなエッジプロセッサ(Sophon BM1688/BM1684X、Rockchip RK3576/RV1126B)や、通常の x86/Linux、Windows、macOS(Docker エミュレート)マシンで、ビデオ AI モデル(オブジェクト検出、VLM スタイルのプロンプト駆動ビジョンなど)を実行できます。リポジトリは Apache-2.0 の下でコアエンジンと Web コンソールを提供します。商用グレードのモデルパッケージとハードウェア固有の保護は別途提供されます。
主な機能
| 機能 | 内容 |
|---|---|
| ネイティブ C++17 ランタイム | マルチチャネルビデオ取り込み、推論スケジューリング、オンスクリーンディスプレイ (OSD)、ルール評価、アラーム/イベント生成。 |
| ビジュアルオーケストレーション UI | ブラウザベースのパイプラインビルダーで、モデルをドラッグ&ドロップし、パラメータを設定してライブフィードバックを確認できます。 |
| マルチバックエンド推論 | ビルド時に選択される Sophon BMRT (.nn)、Rockchip RKNN (.rknn)、ONNX Runtime (.onnn) バックエンド。 |
| プロンプト駆動ビジョン (VLM/DINO) | Grounding-DINO オープンボキャブラリー検出と、アラームをトリガーできる大型ビジョン言語モデルによる判断。 |
| 統合フック | 下流システム向けの REST、WebSocket、MQTT、および汎用 HTTP Webhook。 |
| モデルオンボーディングと保護 | モデルを変換、インポート、検証するツール。「Model Guard」は Sophon デバイス用に商用プリセットを暗号化しつつ、同じ UI 機能を維持します。 |
| エージェント支援開発 | コーディングアシスタント(例:GitHub Copilot)がモデルの移植や UI の拡張を検証可能な出力で支援できる、組み込みのタスクエントリポイントとチェック。 |
サポートされているプラットフォーム
- Sophon BM1688(主要) – チャネルあたり約 0.1 FPS の VLM、最大 6 チャネル検証済み。
- Sophon CV186X – BM1688 と同等の VLM パフォーマンス。
- Rockchip RK3576 – VLM サポート、RKLLM v1.3.0 同梱。
- Rockchip RV1126B – 推論サポート、VLM は未検証。
- x86 Linux / Windows – ONNX Runtime、スループットは低く開発に有用。
- macOS (Apple Silicon) プレビュー – 単一ビデオデモ用の Docker
linux/amd64エミュレーション。
典型的なユースケース
- リアルタイム監視分析(人物検出、安全ヘルメットチェック、ゾーンカウントなど)
- VLM が検出結果をアラームとして発生させるべきかを判断する、プロンプト駆動の視覚検査
- コードを書かずにカスタムビデオ AI ワークフローを構築し、IoT またはエッジクラウド統合のために MQTT や Webhook を介して結果を公開する
クイックスタート(x86 開発者モード)
# clone the repo
git clone https://github.com/cosmo-wander-ai/cosmo-edge.git && cd cosmo-edge
# launch the Docker‑compose stack (Linux)
sudo docker compose -f docker-compose.x86.yml up -d --build
# Windows: docker compose -f docker-compose.x86.windows.yml up -d --build
# open the console
open http://localhost:8080 # or visit the URL in a browser
同じリポジトリは、Sophon および Rockchip デバイス向けの Docker ベースのビルドスクリプトを提供します。これらは適切な NPU SDK をプルし、エンジンをコンパイルして、ランタイム、モデルアーティファクト、TARGET_CHIP マーカー、および SHA-256 チェックサムを含む build_output/<chip>/ ディレクトリを出力します。
ベンチマーク – v1.1 マルチプラットフォームレポート(README からリンク)は、制御された 1080p24 テストを文書化しています:
- 最大 8 つの同時チャネルにわたる、ビジネスタスクごとに 5 FPS
- すべてのサポートされているチップで平均 >5 FPS を示す 72 時間の連続実行
- チャネルごとに最低 0.1 FPS での VLM 検証(PASS/FAIL に使用されるゲート)
ドキュメントとコミュニティ
- 完全なドキュメントサイト:https://www.cosmowander.ai/docs/
- チュートリアルはクイックスタート、パイプラインオーケストレーション、VLM の使用、モデルの移植をカバーしています。
- GitHub Discussions、Issues を通じたサポート、および中国本土のユーザー向けの Gitee ミラー。
- プルリクエストを通じた貢献を受け付けています。セキュリティの問題は
SECURITY.mdを通じて非公開で報告してください。
ライセンス – エンジンおよびコンソールコードは Apache-2.0 です。商用モデルパッケージおよびハードウェア固有の保護レイヤーは個別の条件で配布されます。
CosmoEdge は、ビデオモデルサービング、ビジュアルワークフローオーケストレーション、およびデバイス固有のアクセラレーションを橋渡しする真のオープンソースエッジ AI プラットフォームであり、低電力 NPU ハードウェア上でビデオ分析または VLM 機能をデプロイする必要がある開発者に適しています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト