huggingface/setfit

Efficient few-shot learning with Sentence Transformers

解決的問題

SetFit 解決了微調語言模型進行文字分類時需要大量標記資料或複雜手作提示詞的問題。它允許使用者僅用每個類別極少量的標記樣本(少樣本學習)就能達到高準確度,而無需依賴通常與此方法相關的大規模模型。

運作原理

SetFit 是一個無需提示詞的框架,它微調 Sentence Transformers 以產生豐富的文字嵌入。它不依賴語詞化器或提示詞,而是在這些嵌入之上訓練一個分類頭(來自 scikit-learn 或可微分的 PyTorch 頭)來執行文字分類。

適用對象

需要在最少的標記資料下,且要求快速訓練和推論時間,以建立高效能文字分類器的開發人員和資料科學家。

亮點

  • **無需提示詞:**消除了對手作提示詞或語詞化器的需求。
  • **高效率:**與 GPT-3 或 T0 等大規模少樣本模型相比,訓練和執行推論的速度顯著更快。
  • **多語言:**支援 Hugging Face Hub 上的任何 Sentence Transformer,能夠跨多種語言進行分類。
  • **Hugging Face 整合:**與 Hugging Face Hub 完全整合,方便載入、訓練和推送模型。

相關

  • 專案
  • 專案
  • 專案
  • 專案