✷ 封存 · 11 個實驗室 · 870 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
PaddlePaddle 與 Hugging Face Hub 整合
Hugging Face 與 PaddlePaddle 合作，將其深度學習平台與函式庫（自 PaddleNLP 起）整合至 Hugging Face Hub，以提升可存取性與共享性。
使用 Hugging Face Datasets 與 Transformers 的影像相似度
Hugging Face 示範了如何使用 Transformers 與 Datasets 套件建立影像相似度系統，透過計算密集向量嵌入並測量餘弦相似度。
AI 用於遊戲開發：使用大型語言模型進行遊戲設計
Hugging Face 示範了如何將大型語言模型（如 ChatGPT）用作遊戲設計的頭腦風暴與加速工具，特別是在定義農場遊戲的核心功能時。
圖形機器學習簡介
Hugging Face 提供了圖形機器學習的完整概述，說明了圖形的表示方式以及從神經網路前特徵到圖形神經網路與圖形 Transformer 的演變過程。
AI 遊戲開發：在 5 天內打造農場遊戲（第 1 部分）
Hugging Face 示範了如何使用 Stable Diffusion 為農場遊戲建立視覺藝術風格與概念藝術，並將其實作於 Unity 中。
加速 PyTorch Transformers 使用 Intel Sapphire Rapids – 第 1 部分
Hugging Face 示範如何在 Intel Sapphire Rapids CPU 叢集上使用 IPEX 與 oneCCL 訓練 PyTorch Transformers，達到相較於 Ice Lake 高達 8 倍的加速，且在四節點上接近線性擴展。
使用 CLIPSeg 進行零樣本影像分割
Hugging Face 推出 CLIPSeg，一種零樣本影像分割模型，利用 CLIP 嵌入從文字或影像提示生成分割遮罩，無需針對特定類別進行訓練。
Hugging Face 模型卡文件框架
Hugging Face 已發布一套工具與資源，包括基於 GUI 的創建工具與標準化範本，以提升機器學習模型文件的可及性與標準化。
Hugging Face 音訊資料集指南 – 如何載入、處理與串流音訊資料
Hugging Face 宣布了一份完整指南，展示 🤗 Datasets 套件僅需幾行 Python 程式碼即可載入、前處理與串流 Hub 上的任何音訊資料集，讓語音與音訊任務的研究變得高效。
Hugging Face 倫理與社會通訊 #2：解決機器學習中的偏見
Hugging Face 提出一套社會技術框架，將機器學習偏見視為必須在任務定義、資料集策展與模型訓練各階段處理的風險因素，以降低歧視性傷害。
Habana Gaudi2 與 Nvidia A100 80GB 性能基準
Hugging Face 基準測試顯示，Habana Gaudi2 在訓練與推論方面，對於 BERT、Stable Diffusion 與 T5-3B 模型，提供大約兩倍於 Nvidia A100 80GB 的吞吐量。
Hugging Face 宣布 Bumblebee：純 Elixir 中的 Transformers 與 Stable Diffusion
Hugging Face 發布了 Bumblebee，這是一個純 Elixir 的 Transformers 實作，將從 GPT‑2 到 Stable Diffusion 的模型帶入 Elixir 生態系，讓原生 CPU/GPU 推論無需外部依賴。
闡述人類回饋強化學習 (RLHF)
Hugging Face 解釋了人類回饋強化學習 (RLHF)，這是一個透過使用基於人類偏好的獎勵模型來優化模型，進而將大型語言模型與複雜的人類價值觀對齊的三步驟過程。
深度學習與蛋白質 – Hugging Face 蛋白質語言模型與摺疊指南
Hugging Face 宣布了一系列教學，展示如何微調蛋白質語言模型並使用 ESMFold 進行蛋白質摺疊，證明 NLP 的遷移學習技術可以直接應用於蛋白質序列任務。
使用 🤗 Transformers 進行時間序列 Transformer 機率預測
Hugging Face 發布了一個用於全局機率時間序列預測的原始 Transformer 模型，在 Tourism Monthly 基準上展示了最先進的表現。
在 Apple Silicon 上使用 Stable Diffusion Core ML – 如何執行與最佳化
Hugging Face 發布了針對 Apple Silicon 轉換為 Core ML 的 Stable Diffusion 檢查點，使得在 Python 或 Swift 中可在裝置上生成圖像，最高可在 M1 Max 上以 18 秒產生一張圖像。
VQ-Diffusion：離散空間中的條件潛在擴散
VQ-Diffusion 是一種在量化離散潛在空間上運作的條件潛在擴散模型，提供比傳統自回歸模型更快的推論速度與更高的影像品質。
Hugging Face 2023 實習計畫
Hugging Face 宣布了 2023 年實習計畫，提供開源、科學與社會影響團隊的職位，以民主化負責任的機器學習。
Hugging Face 擴散模型課程與社群活動
Hugging Face 宣布將於 2022 年 11 月 28 日推出免費的擴散模型課程，並於 11 月 30 日舉辦線上社群活動，邀請來自 Stability AI、Meta 與 Runway 的研究人員參與。
Hugging Face 機器學習洞見總監 第 4 部分
四位機器學習總監分享了在電子商務、工程、教育與 SaaS 領域中，機器學習的影響、挑戰與整合陷阱的產業專屬見解。
Hugging Face 推理解決方案概覽 2022 年 11 月
Hugging Face 宣布了一套免費與付費的推理選項——包括小工具、API、Inference Endpoints 與 Spaces——以簡化模型測試、部署與生產規模擴展。
Hugging Face 加速文件 AI
Hugging Face 提供了一份完整指南，說明如何使用開源多模態模型自動化企業工作流程中的文件分類、解析與視覺問答。
使用同態加密的加密資料情感分析
Hugging Face 示範如何使用 Concrete-ML 套件，結合 BERT 轉換器與 XGBoost，在完全同態加密（FHE）下對加密資料執行情感分析。
Hugging Face 與 arXiv 整合機器學習示範
Hugging Face 已將 Hugging Face Spaces 與 arXivLabs 整合，直接在 arXiv 論文摘要頁面提供互動式機器學習示範。
Hugging Face 價格更新 2022 年 11 月
Hugging Face 已轉向以計算為基礎的營收模式，停止使用 Inference API 的付費層，改為使用 Inference Endpoints 與 Spaces 的硬體升級。
對比搜尋在 Transformers 中的人類水平文本生成
Hugging Face 已將對比搜尋整合至 transformers 套件，這是一種解碼方法，可防止模型退化，並在 16 種語言的即用模型中保持語義一致性。
Dreambooth Stable Diffusion 微調指南（使用 Diffusers）
Hugging Face 發布了使用 Diffusers 套件訓練 Dreambooth 的 Stable Diffusion 的詳細建議，指出低學習率、足夠的訓練步數、針對人臉的先驗保存以及文字編碼器微調可產生最高品質的結果。
使用 Hugging Face Transformers 微調 Whisper 以支援多語言 ASR
Hugging Face 提供了完整的指南，說明如何微調 OpenAI 的 Whisper 模型以支援多語言自動語音辨識（ASR），在僅使用 8 小時資料的情況下，於印地語上實現了 31.5% 絕對字錯誤率（WER）的提升。
Hugging Face Optimum Intel 與 OpenVINO 整合
Hugging Face 已將 Intel OpenVINO 整合至 Optimum Intel，實現了在 Intel 硬體上對 Transformer 模型的加速推論與量化。
使用 🤗 Evaluate 評估語言模型偏見
Hugging Face 為 🤗 Evaluate 函式庫新增了偏見評估指標——toxicity、language polarity（Regard）與 HONEST，使研究人員能系統性地測量因果語言模型中的有害語言。
使用 PyTorch DDP、Accelerate 與 Transformers Trainer 的分散式訓練
Hugging Face 說明了如何使用三個抽象層級來實作分散式訓練：原生 PyTorch DDP、Accelerate 函式庫，以及高階的 Transformers Trainer API。
MTEB：大規模文字嵌入基準測試
Hugging Face 推出 MTEB，一個涵蓋 56 個資料集、跨 8 項任務的大規模多語言基準，用於評估文字嵌入模型的效能。
Hugging Face 推理端點
Hugging Face 推理端點是一項受管服務，讓使用者只需點擊幾下即可將機器學習模型從 Hugging Face Hub 部署到可擴展且安全的雲端基礎設施。
Stable Diffusion JAX 與 Flax 整合
Hugging Face Diffusers 0.5.1 版引入了對 Flax 的支援，使得在 Google TPU 上透過 JAX 進行高速 Stable Diffusion 推理成為可能。
Hugging Face BLOOM 推論最佳化
Hugging Face 透過從流水線平行化轉向張量平行化並實作自訂 CUDA 核心，使 BLOOM 模型的延遲降低 5 倍、吞吐量提升 50 倍。
Hugging Face 為模型與資料集引入 DOI 支援
Hugging Face 現在允許使用者為 Hub 上的模型與資料集產生數位物件識別碼（DOI），提供跨版本持續有效的永久可引用連結。
rinna 發布的日文 Stable Diffusion
rinna 發布了日文 Stable Diffusion，這是一個針對日文進行微調的 Stable Diffusion 版本，能夠根據日文提示生成符合文化的圖像。
Hugging Face 零樣本評估於 Hub
Hugging Face 在 Hub 上推出了針對因果語言模型的零樣本評估，使用者無需編寫程式碼即可對最高 660 億參數的模型進行基準測試。
Hugging Face AutoTrain 圖像分類
Hugging Face 已將圖像分類加入 AutoTrain，使使用者能在不撰寫程式碼或設定超參數的情況下，訓練自訂的圖像分類模型。
Hugging Face Accelerate：使用 PyTorch 執行大型模型
Hugging Face Accelerate 透過利用 PyTorch 的 meta 裝置與分片檢查點，管理 GPU、CPU 記憶體與磁碟的記憶體使用，使得在消費者硬體上也能執行巨量 AI 模型。
SetFit：高效的少樣本學習（無提示）
Hugging Face 推出 SetFit，一個無提示的少樣本微調 Sentence Transformers 框架，能在極少標註資料下達到高準確率。
Hugging Face 倫理與社會電子報 #1
Hugging Face 推出其倫理與社會電子報，並概述了一種透過協作、透明與負責任的價值驅動方式，去分散化地落實 AI 倫理。
極速 BLOOM 推理：DeepSpeed 與 Accelerate
Hugging Face 展示了在 8×80 GB A100 GPU 上，使用 DeepSpeed‑Inference 張量並行和 Accelerate 流水線並行，對 176B 參數的 BLOOM 模型實現每個 token 低於毫秒的生成速度。
Diffusers 0.3 版加入影像到影像、文字反轉、修補、GPU 最佳化、Mac MPS、ONNX 支援與新文件
Hugging Face 宣布 Diffusers 0.3 版，推出影像到影像、文字反轉、實驗性修補、較小 GPU 最佳化、Mac MPS 支援、ONNX 匯出器、擴充文件，以及一波社群專案。
離線強化學習的決策變換器訓練
Hugging Face 提供了一份指南與實作，說明如何從頭開始訓練離線 Decision Transformer，以解決 HalfCheetah 環境，並使用 transformers 的 Trainer 以及自訂的資料整理器。
使用 Megatron-LM 訓練語言模型
Hugging Face 提供了一份指南，說明如何使用 NVIDIA 的 Megatron-LM 框架在 GPU 上高效預訓練大型語言模型，並整合 Transformers 套件。
OpenRAIL：邁向開放且負責任的 AI 授權框架
Hugging Face 宣佈了 OpenRAIL，一套結合開放存取與使用限制的 AI 專屬授權，旨在促進機器學習模型的負責任部署。
在 Hugging Face Spaces 上視覺化蛋白質
Hugging Face 提供了一份指南，說明如何透過 Gradio 將 3Dmol.js 整合至 Hugging Face Spaces，以在瀏覽器中實現 3D 蛋白質結構的視覺化。
使用 Hugging Face Transformers 與 Habana Gaudi 進行 BERT 預訓練
Hugging Face 示範了如何在 AWS 上使用 Habana Gaudi DL1 實例從頭預訓練 BERT-base，較基於 NVIDIA V100 GPU 的訓練可降低 25% 成本。
使用 Diffusers 的 Stable Diffusion
Hugging Face 公布了如何使用 Diffusers 套件執行文字生成影像的 Stable Diffusion 模型，提供了程式碼、授權細節以及模型潛在擴散架構的說明。