✷ 封存 · 11 個實驗室 · 870 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
RWKV 架構整合至 Hugging Face Transformers
Hugging Face 宣布將 RWKV RNN‑Transformer 混合模型整合至 Transformers 函式庫，讓開源的長上下文語言模型結合 RNN 的效率與 Transformer 的效能。
在 AMD GPU 上使用 ROCm 執行 Vicuna 13B
Hugging Face 提供了一份技術指南，說明如何在單一 AMD GPU 上使用 ROCm 與 GPTQ 4 位元量化部署 Vicuna 13B 開源聊天機器人，將記憶體需求從 28GB 降至 7.52GB。
Hugging Face 入選 CNIL 加強支援計畫
Hugging Face 已被法國資料保護機構（CNIL）選入其加強支援計畫，以提升在 AI 開發中資料保護與 GDPR 合規的落實。
Hugging Face 輔助生成以降低延遲的文字生成
Hugging Face 引入了 Assisted Generation，一種利用較小的輔助模型預測候選 token，並由較大的模型驗證的解碼方法，可在某些硬體配置下將延遲降低至最高 10 倍。
使用 StarCoder 創建編程助手 – 摘要
本文說明了 Hugging Face 團隊如何將 16 B 參數的 StarCoder 程式碼生成模型轉變為對話式編程助手（StarChat‑α）。透過新增特殊聊天標記、準備過濾後的 Open‑Assistant 對話資料集，並使用 DeepSpeed ZeRO‑3 進行微調，他們訓練出一個能理解使用者提示並產生可執行程式碼（例如繪圖、地圖、視覺化）的模型。文章亦涵蓋了 tokenizer 設定、使用者回合的損失遮蔽、訓練配置、評估（包括基準測試與 LLM 為基礎的評估）、限制與未來方向。最終模型已在 Hub 上公開提供。
深入探討文字到影片模型
Hugging Face 提供了文字到影片生成模型演變的技術概述，詳細說明了從 GAN 到 Transformer 以及 Diffusion 架構的轉變，同時突顯了時間一致性與資料稀缺的獨特挑戰。
StarCoder 發行說明
Hugging Face 與 ServiceNow 的 BigCode 合作發布了 StarCoder 與 StarCoderBase，這兩款 15B 參數的程式碼 LLM 以寬鬆授權的資料訓練，並在程式設計基準測試中超越多個開放與封閉模型。
Hugging Face Unity API 安裝與使用指南
Hugging Face Unity API 讓開發者能透過專屬套件與 API wizard，將 Hugging Face Inference API 模型整合至 Unity 專案中。
使用 Hugging Face Transformers、TensorFlow 與 TPU 訓練語言模型
Hugging Face 提供了一套可擴展的端對端指南，使用 TensorFlow 與 TPU pod 從頭訓練遮蔽語言模型，透過 XLA 相容性實現高效能運算。
Databricks 與 Hugging Face 整合 Apache Spark 加速 LLM 訓練
Databricks 透過 Dataset.from_spark() 函式在 Hugging Face Datasets 中引入了第一流的 Apache Spark 支援，將大型模型訓練與微調的資料載入時間縮短最高可達 40%。
在免費等級的 Google Colab 上使用 Diffusers 執行 DeepFloyd IF
Hugging Face 示範了如何在免費的 Google Colab 筆記本上執行開源的 DeepFloyd IF 文字轉圖像模型，方法包括使用 8 位元量化、模組化管線載入以及 Diffusers 整合的最佳化。
Hugging Face 推出中文語言部落格以支援全球 AI 社群
Hugging Face 已推出專屬中文語言部落格 (hf.co/blog/zh)，提供翻譯技術資源，並促進與中文 AI 社群更深入的合作。
在 Hugging Face Spaces 上託管 Unity 遊戲
Hugging Face Spaces 可透過使用 Static HTML 模板與 WebGL 建置目標來託管可遊玩的 Unity 遊戲。
使用 AWS Inferentia2 加速 Hugging Face Transformers
Hugging Face 與 AWS 已針對 AWS Inferentia2 這款專為推論設計的加速器，優化了 Transformers，使大型模型的延遲顯著降低，吞吐量顯著提升。
使用 Transformers 進行圖形分類
Hugging Face 示範了如何在 Transformers 套件中使用 Graphormer 模型執行圖形分類，涵蓋資料格式化、前處理與微調。
使用 Substra 創建隱私保護的 AI
Hugging Face 與 Substra 強調聯邦學習如何在分散式資料來源上訓練 AI 模型，以維護隱私與安全，尤其在醫療等敏感領域。
Snorkel AI 與 Hugging Face 企業基礎模型整合
Snorkel AI 與 Hugging Face 合作，將 Hugging Face Inference Endpoints 整合至 Snorkel Flow，讓企業能輕鬆存取並調整超過 150,000 個開源基礎模型。
StackLLaMA：使用 RLHF 訓練 LLaMA 於 Stack Exchange
Hugging Face 推出 StackLLaMA，一個透過監督式微調、獎勵模型與人類回饋強化學習（RLHF）訓練，以回答 Stack Exchange 問題的模型。
Hugging Face 倫理與社會通訊 #3：倫理開放倡議
Hugging Face 宣布了新的倫理開放措施——包括六個倫理標籤、舉報系統以及受眾導向的元資料——以使開源機器學習更安全且更具包容性。
在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理
Hugging Face 示範了如何在 Intel Sapphire Rapids CPU 上，透過 Optimum Intel、OpenVINO、系統層級調整、IPEX BF16 與更快的排程器，將 Stable Diffusion 影像生成時間從 32 秒縮短至約 5 秒。
BLOOMZ 在 Habana Gaudi2 加速器上的推論
Hugging Face 示範了 Habana Gaudi2 加速器在 BLOOMZ 176B 模型上的推論速度快於 Nvidia A100 80GB，並利用 Optimum Habana 函式庫與 DeepSpeed‑inference。
使用 Hugging Face 與 Flower 的聯邦學習
Hugging Face 示範如何使用 Flower 框架在預訓練的 distilBERT 模型上進行聯邦學習，以對 IMDB 資料集執行情感分析。
使用 Hugging Face Diffusers 訓練 ControlNet
Hugging Face 透過 diffusers 函式庫提供完整的指南與訓練腳本，讓使用者能夠為 Stable Diffusion 訓練自訂的 ControlNet 模型，並以「Uncanny Faces」姿勢模型的製作作為示範。
Hugging Face Hub 改進的 Jupyter Notebook 支援
Hugging Face 為託管於 Hub 的 Jupyter Notebook 引入了可供人類閱讀的渲染，提升了機器學習實踐者的可重現性與可取得性。
使用 Informer 的多變量概率時間序列預測
Hugging Face 已將 Informer 模型整合至 Transformers 套件，實現高效的多變量概率時間序列預測，並降低計算與記憶體複雜度。
在 24GB 消費者 GPU 上使用 RLHF 微調 20B 大型語言模型
Hugging Face 發佈了 TRL 與 PEFT 的整合，使得能在單一 24 GB GPU 上使用 8 位元量化與低秩適配器對 200 億參數的語言模型進行強化學習微調。
Kakao Brain ViT 與 ALIGN 模型發布，搭配 COYO 700M 資料集
Kakao Brain 與 Hugging Face 發布了開源的 ViT 與 ALIGN 視覺語言模型，這些模型是以全新 700 M 圖文 COYO 資料集訓練的，提供了首個公開可用的 ALIGN 模型以及具備可重現訓練資料的 ViT 模型。
Diffusers 中的 ControlNet
Hugging Face 已將 ControlNet 整合至 Diffusers 函式庫，讓使用者能透過 Canny 邊緣、深度圖與人體姿勢等條件，對 Stable Diffusion 圖像生成進行精確的空間控制。
使用機器學習進行災害應變：afetharita 專案
Hugging Face 描述了志工如何利用 Hugging Face 生態系統快速部署 OCR、NER 與遙感的機器學習模型，以協助 2023 年 2 月土耳其地震的倖存者。
Hugging Face Diffusers 倫理指導原則
Hugging Face 為 Diffusers 函式庫推出了倫理框架，以指導技術決策與社群貢獻，同時減輕擴散模型可能帶來的社會風險。
Hugging Face 專家加速計畫：Witty Works 案例研究
Witty Works 利用 Hugging Face 專家加速計畫與 SetFit，構建了一個具備高準確度且僅需最少標記資料的情境依賴包容性語言分類器。
Swift Diffusers for Mac 1.1 發布
Hugging Face 已發布 Diffusers for Mac 1.1 版，這是一款利用 Core ML 加速 Apple Silicon 上 Stable Diffusion 的原生開源應用，於特定硬體配置下可提供最高 2 倍的生成速度提升。
大型語言模型的紅隊測試
Hugging Face 概述了紅隊測試在識別 LLM 弱點以防止有害輸出方面的關鍵角色，強調需要協作且具適應性的評估方法。
Fetch AI 基礎設施遷移：與 Hugging Face 及 AWS 整合工具
Fetch 透過從第三方 AI「黑盒」遷移至由 Hugging Face 與 AWS 支持的內部機器學習管線，將開發時間縮短 30%，處理延遲降低 50%。
Hugging Face 與 AWS 的 AI 可及性戰略合作夥伴關係
Hugging Face 與 AWS 擴大了戰略合作，透過將 Hugging Face 模型與 AWS 基礎設施及專用機器學習加速器整合，讓生成式 AI 更加民主化。
Hugging Face 推理端點案例研究
Hugging Face 正在將其基於 CPU 的機器學習模型從 AWS ECS/Fargate 遷移至 Hugging Face 推理端點，以降低運營複雜度並提升延遲表現。
BLIP-2：零樣本影像到文字生成
BLIP-2 是 Salesforce Research 開發的視覺語言模型，使用查詢變換器（Q-Former）在凍結的影像編碼器與凍結的大型語言模型之間搭橋，以實現高效的零樣本影像到文字生成。
🤗 PEFT 函式庫發布，實現千億規模模型的參數高效微調
Hugging Face 宣布了 🤗 PEFT 函式庫，讓使用者僅訓練極少量參數，即可在低資源硬體上微調千億參數模型。
SpeechT5：統一模態編碼器-解碼器於語音處理
Hugging Face 已整合 SpeechT5，這是一個統一的基於 Transformer 的模型，能透過共享的編碼器-解碼器骨幹執行文字轉語音、語音轉語音與語音轉文字任務。
Hugging Face AI vs. AI：多代理強化學習競賽系統
Hugging Face 推出 AI vs. AI，一個透過持續的多代理競賽並使用 ELO 評分系統來排名深度強化學習模型的開源系統。
Hugging Face AI 用於遊戲開發：生成故事
Hugging Face 概述了一套使用大型語言模型（LLM）如 ChatGPT 生成遊戲故事與內容的工作流程，同時強調了在原創性、法律風險與長期連貫性方面的關鍵限制。
使用 Intel Sapphire Rapids 加速 PyTorch Transformers
Hugging Face 示範，將 Intel Sapphire Rapids CPU 與 Optimum Intel 函式庫結合，可將 PyTorch 變換器推論速度提升至前代 Xeon 最高 3 倍。
深入探討視覺語言模型
Hugging Face 提供了視覺語言模型的技術概述，詳細說明了五種主要的預訓練策略以及它們在 Transformers 庫中對 VQA 與影像分割等任務的整合。
Hugging Face 的電腦視覺現況
Hugging Face 已擴展其生態系統，支援 8 個核心電腦視覺任務、超過 3,000 個模型以及 100 多個資料集，整合了 Transformer 與卷積架構。
Hugging Face 2D 資產生成於遊戲開發
Hugging Face 示範了如何將 Stable Diffusion 的 Image2Image 功能整合到協作式 2D 遊戲資產工作流程中，以高效地製作可投入生產的圖示。
使用 LoRA 進行高效的 Stable Diffusion 微調
Hugging Face 已將低秩適應（LoRA）整合到 diffusers 套件中，使 Stable Diffusion 的微調更快，所需 VRAM 大幅降低，模型權重僅約 3 MB。
Hugging Face Optimum 與 ONNX Runtime 訓練整合
Hugging Face 與 Microsoft 已將 ONNX Runtime 整合至 Optimum 函式庫，以將 transformer 模型的訓練時間縮短 35% 以上。
什麼讓對話代理有用？技術分析
Hugging Face 分析了關鍵技術——包括指令微調（IFT）、監督式微調（SFT）、來自人類回饋的強化學習（RLHF）以及思考鏈（CoT）——這些技術將基礎語言模型轉變為有用的對話代理。
Hugging Face AI 用於遊戲開發：3D 資產生成
Hugging Face 探討了文字轉 3D AI 的現狀，結論是儘管有 DreamFusion 與 Point-E 等工具，但它們尚未能實際應用於快速的遊戲開發工作流程。
Mask2Former 與 OneFormer：🤗 Transformers 中的通用影像分割模型
Hugging Face 在 Transformers 函式庫中發布了 Mask2Former 與 OneFormer，提供可同時處理實例、語意與全景分割的通用架構，只需單一模型即可完成。