lightly: 一個用於自我監督預訓練的模組化電腦視覺框架

它解決了什麼問題

LightlySSL 是一個電腦視覺框架，旨在讓自我監督學習 (SSL) 更容易取得且更容易實作。它允許開發者在未標記的數據上訓練模型，從而減少電腦視覺任務對大規模、人工標記數據集的依賴。

運作原理

該框架建立在 PyTorch 和 PyTorch Lightning 之上，提供了一套模組化的構建組件——包括損失函數、模型頭 (model heads) 和數據轉換 (data transforms)——可以組合起來實作各種 SSL 演算法。它支援廣泛的預訓練方法，並允許使用者整合自定義的骨幹模型 (backbone models) 進行特徵提取。

對象是誰

它適用於從事電腦視覺工作的機器學習工程師和研究人員，他們希望為分類、檢測和分割等任務實作自我監督預訓練。

重點特性

• 廣泛的模型支援：包括熱門 SSL 模型如 SimCLR、MoCo、DINO、BYOL、MAE 和 LeJEPA 的實作。
• 模組化設計：公開了損失函數和投影頭 (projection heads) 等低階組件，以便靈活地構建模型。
• 與 PyTorch 的對稱性：以類似 PyTorch 的風格編寫，提供無縫的開發者體驗。
• 分散式訓練：透過 PyTorch Lightning 原生支援分散式訓練。