a312863063/Video-Auto-Wipe

Erase specific content from the video that you don't wanna see

Video-Auto-Wipe は、動画から不要な固定パターンコンテンツ(特に字幕、静止ロゴ、動的/アニメーションアイコン)を自動的に削除するためのディープラーニングプロジェクトです。これは本格的なコンピュータビジョン / 動画インペインティングプロジェクトです。

機能: このモデルは、動画フレームから特定の種類の視覚的ノイズを自動的に検出し消去します。統一されたテキストスタイルによって字幕を、時間経過しても動かないピクセルによって静止ロゴを、点滅や移動する固定ピクセルブロックによって動的アイコンを識別します。現在、字幕削除 モデルがオープンソースとして公開されていますが、ロゴおよび動的アイコン削除モデルはデモのみで、リリースはされていません。

仕組み: 学習プロセスは2段階のアプローチをとります。まず、モデルは時域においてターゲット前景(字幕など)を認識するように学習します。次に、この認識モジュールを消去(インペインティング)モデルに統合し、エンドツーエンドで微調整を行います。学習データを生成するために、作成者は合成前景を作成しました。PythonのImageDrawライブラリを使用してランダムなテキストやピクセルブロックを生成し、Adobe Premiere Proを使用して動的エフェクトを作成し、それらを実際の動画背景(映画クリップ2,709本、バラエティ番組クリップ864本)に重ね合わせました。

主な特徴:

  • 事前学習済み重みとシンプルな demo.py スクリプトを含む、オープンソースの字幕削除モデル。
  • 静的および動的ロゴの効率的な消去を実証(ただし、それらの特定の重みは共有されていません)。
  • 背景および前景生成のための大規模な合成学習データセットを提供。

技術スタック:

  • Python, PyTorch (torch>1.0 が必要)
  • 合成データ生成のための ImageDraw

ターゲット層: 動画編集、コンピュータビジョン、動画インペインティング、または AIGC (AI-Generated Content) ツールに関心のある開発者および研究者。

主な制限事項:

  • 字幕削除モデルのみがオープンソース化されており、ロゴや動的アイコンモデルは公開されていません。
  • 事前学習済み重みとデータセットは百度網盤(Baidu Pan)でホストされています。
  • README に正確な依存関係のインストール手順がほとんど記載されていません(必要に応じて不足しているパッケージをインストールすることが推奨されます)。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト