Linfeng-Tang/SeAFusion

Official code for “Image Fusion in the Loop of High-level Vision Tasks: A Semantic-aware Real-time Infrared and Visible Image Fusion Network”. Information Fusion, 2022 · 🔥 ESI Hot Paper · 🏆 ESI Highly Cited Paper · 🏅 Best Paper Award 2024.

解決的問題

SeAFusion 解決了將紅外線影像與可見光影像融合為單一合成影像的挑戰,此影像不僅視覺清晰,且對高階視覺任務(如物件檢測與語意分割)極具價值。傳統融合方法常忽略影像的語意意義,導致下游 AI 分析效果不佳。

工作原理

本專案實作一種語意感知的即時網路,用於融合紅外線與可見光影像。採用基於梯度殘差密集區塊的網路架構來處理影像。透過將融合過程「置入」高階視覺任務的迴圈中,確保生成的融合影像保留了精確檢測與分割所需的關鍵語意資訊。

適用對象

此工具適用於電腦視覺領域的研究人員與開發者,特別是專注於多模態影像融合,用於監控、自動駕駛,或任何需要結合熱成像與視覺資料以實現機器感知的應用場景。

主要亮點

  • 語意感知:專門設計以提升下游任務(如使用 YOLOv5 的物件檢測與使用 Deeplabv3+ 的語意分割)的效能。
  • 即時性能:為效率而建構,支援即時處理影像串流。
  • 高階視覺整合:已在 MFNet 資料集等標準基準上驗證,確保融合輸出針對 AI 驅動分析進行最佳化。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案