Gradio 3.0 發行說明
Hugging Face 已發布 Gradio 3.0，包含完整的前端重新設計，並引入 Gradio Blocks 以在 Python 中構建複雜、客製化的機器學習 Web 應用。
Hugging Face 學生大使計畫 2022
Hugging Face 推出了首個學生大使計畫，以協助實現其在 2023 年前教導 500 萬人機器學習的目標。
Hugging Face 機器學習洞見總監：SaaS 版
Hugging Face 採訪了來自 Salesforce、Amplitude、ZoomInfo 與 Repustate 的四位機器學習總監，討論將機器學習整合至 SaaS 產品的實務挑戰、常見陷阱與未來機會。
Optimum 1.2 推理發布加入 ONNX Runtime 加速管線
Hugging Face 宣佈了 Optimum 1.2，新增了透過 ONNX Runtime 的推理支援與 Transformers 管線整合，使模型服務更快速、具量化且經過最佳化。
Hugging Face C 輪融資公告
Hugging Face 獲得 1 億美元的 C 輪融資，以透過開源研究、產品與協作式機器學習加速 AI 的民主化。
fastai 與 Hugging Face Hub 的整合
Hugging Face 已整合 fastai 函式庫，讓使用者能夠透過一行 Python 程式碼，直接將 fastai Learner 物件上傳至 Hugging Face Hub 或從中下載。
Hugging Face 深度強化學習簡介
Hugging Face 發布了一個免費深度強化學習課程的入門教學，涵蓋核心 RL 概念、RL 框架、探索與利用的權衡、基於策略與基於價值的方法，以及深度神經網路如何結合於 RL。
使用 Kili 與 HuggingFace AutoTrain 進行意見分類
Hugging Face 示範如何使用 Kili 進行資料標註，並利用 AutoTrain 進行自動化模型訓練，構建文字分類的主動學習管線。
Hugging Face 機器學習總監洞見 – 產業觀點
Hugging Face 發布了一系列與六位機器學習總監的訪談，分享了機器學習如何改變媒體、製藥、科學、物流、行銷與能源領域，同時突顯共同的挑戰與未來機會。
在 Habana Gaudi 上開始使用 Transformers
Hugging Face 與 Habana Labs 合作，加速 Transformer 模型的訓練，與基於 GPU 的 Amazon EC2 實例相比，Habana Gaudi 加速器可提供高達 40% 的價格效能提升。
以機器學習提升客戶服務效能
Hugging Face 展示了如何使用微調的 DeBERTa-v3-base 模型以及 Transformers 與 Datasets 套件，自動過濾不滿的客戶回饋。
Hugging Face 教育倡議 2022 發佈
Hugging Face 在 2022 年 4 月宣布了一項多軌教育計畫，目標在 2023 年底前教導 500 萬人機器學習，並為學習者、教師以及大眾提供免費資源。
Hugging Face Hub 碳排放追蹤
Hugging Face 已推出工具，用於追蹤、報告與篩選基於 CO2 排放的機器學習模型，以提升 AI 的環境透明度。
Lewis Tunstall 访谈 – Hugging Face 机器学习专家
Hugging Face 宣布了一场关于机器学习工程师 Lewis Tunstall 的详细访谈，重点介绍了他在 Transformers 库的工作、新出版的《NLP with Transformers》一书，以及不断扩展的 Hugging Face 课程。
Habana Labs 與 Hugging Face 合作加速 Transformer 模型訓練
Habana Labs 與 Hugging Face 已將 Habana 的 SynapseAI 軟體套件與 Hugging Face Optimum 函式庫整合，以加速在 Habana Gaudi 處理器上進行 Transformer 模型訓練。
Hugging Face Transformers 設計哲學
Hugging Face 為 Transformers 函式庫採用了「單一模型檔案」政策，刻意拋棄 DRY（Don't Repeat Yourself）原則，以優先考慮可讀性、社群貢獻以及靜態機器學習模型的穩定性。
Decision Transformer 在 Hugging Face Transformers 中的整合
Hugging Face 已將 Decision Transformer（將強化學習視為條件序列建模問題的離線強化學習方法）整合至 transformers 程式庫與 Hugging Face Hub。
在現代 CPU 上擴展類 BERT 模型推理 - 第二部分
Hugging Face 探索了在 Intel Ice Lake Xeon CPU 上類 BERT 模型的軟體層級優化，展示了記憶體配置器、並行化函式庫以及貝氏優化如何能顯著降低推理延遲。
輕鬆在 Amazon SageMaker 上部署 Hugging Face 模型
Hugging Face 與 Amazon SageMaker 推出了全新的推論深度學習容器（DLC）與推論工具套件，以簡化 Transformer 模型部署至可投入生產的端點。
Sentence Transformers 集成於 Hugging Face Hub
Hugging Face 已將 Sentence Transformers 集成到 Hub 中，為 100 多種語言提供超過 90 個預訓練模型，並提供了用於特徵提取和句子相似度的新交互式小部件。
使用與混合 Hugging Face 模型搭配 Gradio 2.0
Gradio 2.0 讓機器學習開發者能以單行程式碼將 Hugging Face 模型載入並部署為 GUI，並支援平行與串行模型組合。
Scaling-up BERT Inference on CPU (Part 1)
Hugging Face 探討了現代 CPU 上 BERT 推理的硬體層級優化，證明了透過 NUMA 感知親和性將多個獨立模型實例綁定到特定實體核心，可以實現吞吐量的線性擴展。
Hugging Face Accelerate Library Release
Hugging Face 發布了 Accelerate，這是一個 PyTorch 函式庫，允許使用者在任何設備配置上執行原始訓練腳本，包括多 GPU 和 TPU，而無需重寫樣板代碼。
透過 Hugging Face 與 Amazon SageMaker 進行 BART 與 T5 的摘要生成分散式訓練
Hugging Face 與 Amazon SageMaker 已完成整合，提供優化的深度學習容器與專用的 HuggingFace estimator，以簡化 BART 與 T5 等 Transformers 模型的分散式訓練。
理解 BigBird 的區塊稀疏注意力機制
BigBird 引入了區塊稀疏注意力機制，將 Transformer 的計算複雜度從二次方降低至線性，使其能夠處理長達 4096 個 token 的序列。
Amazon SageMaker 與 Hugging Face 的合作夥伴關係
Hugging Face 與 Amazon 已建立合作夥伴關係，透過專用的 Deep Learning Containers (DLCs) 與 Python SDK 擴充功能將 Hugging Face Transformers 整合至 Amazon SageMaker，以加速 NLP 模型訓練與部署。
在 Google Cloud 上部署 Serverless Transformers Pipeline
Maxence Dominici 展示了如何使用 Hugging Face Transformers 與 Google Cloud Run，為低流量的 serverless 微服務部署情緒分析 pipeline。
使用 Hugging Face Transformers 微調 Wav2Vec2 進行英文 ASR
Hugging Face 提供了一份詳細指南，說明如何使用 Connectionist Temporal Classification (CTC) 損失來微調 Wav2Vec2 預訓練語音模型，以進行英文自動語音識別（ASR）。
Hugging Face Reads: Long-range Transformers
Hugging Face 分析了四種關鍵架構——Longformer、Compressive Transformer、Linformer 和 Performer——旨在將標準 Transformer 自注意力的二次記憶體與時間複雜度降低至線性複雜度。
Hugging Face: 建立神經網路的簡單考量因素
Hugging Face 提供了一個框架，透過優先考慮數據分析、簡單的基準測試以及嚴謹的實作檢查，而非盲目的超參數調優，來建立與除錯神經網路。
使用 Hugging Face Transformers and Ray 進行檢索增強生成
Hugging Face 已將 Ray 集成到檢索增強生成 (RAG) 模型的文檔檢索機制中，以實現檢索調用 2 倍的加速，並提高分布式細調的可擴展性。
Hugging Face PyTorch / XLA TPU 整合
Hugging Face 已將 PyTorch / XLA 整合，以讓 PyTorch 使用者能夠使用現有的 Hugging Face Trainer 介面在 Cloud TPU 上訓練與擴展 transformer 模型。
Hugging Face Transformers v4.2.0 TensorFlow 效能與服務更新
Hugging Face Transformers v4.2.0 為 TensorFlow 模型引入了顯著的計算效能增益，並透過使用 SavedModel 格式，簡化了經由 TensorFlow Serving 的部署流程。
Hugging Face Transformers 透過 DeepSpeed 與 FairScale 整合 ZeRO
Hugging Face Transformers v4.2.0 引入了對 DeepSpeed 與 FairScale 的 ZeRO 優化實驗性支援，讓使用者能夠以更高的批次大小訓練更大的模型，並降低 GPU 記憶體需求。
Hugging Face 加速推理 API 優化
Hugging Face 通過結合高層級函式庫優化、基於 Rust 的分詞以及硬體特定編譯，在其加速推理 API 中實現了 transformer 推理 100 倍的加速。
利用預訓練語言模型檢查點來建構編碼器-解碼器模型 – Hugging Face 部落格摘要
Hugging Face 的部落格文章解釋了如何使用預訓練的 BERT、RoBERTa 或 GPT2 檢查點來熱啟動編碼器-解碼器模型，並展示了這種方法在降低訓練成本的同時，能達到與大型預訓練 seq2seq 模型相當的性能。
將 fairseq WMT19 翻譯系統移植至 🤗 Transformers
Hugging Face 已將 fairseq WMT19 翻譯模型（en‑ru、ru‑en、de‑en、en‑de）移植至 🤗 Transformers 庫，使用戶能夠使用標準 Transformers API 載入並運行這些高品質的翻譯器。
Hugging Face Transformers 與 Ray Tune 整合
Hugging Face Transformers 3.1 引入與 Ray Tune 的整合，使用戶能夠輕鬆實施如 Population-Based Training 和 Bayesian Optimization 等先進的超參數調優演算法。
基於 Transformer 的編碼器-解碼器模型 Hugging Face 部落格文章 2020
Hugging Face 2020 年的部落格文章說明了基於 Transformer 的編碼器-解碼器架構，詳細闡述了它如何透過編碼器與解碼器堆疊、自注意力、交叉注意力以及自回歸生成，將輸入序列映射為可變長度的輸出，並展示了如何使用 🤗Transformers 套件。
Hugging Face pytorch_block_sparse 發佈
Hugging Face 已發佈 pytorch_block_sparse，這是一個提供 BlockSparseLinear 模組的函式庫，透過減少記憶體消耗並提高相對於標準 PyTorch 稀疏矩陣的計算效率，來建立更小且更快速的語言模型。
Reformer: 使用記憶體高效的 Transformer 推展語言建模的極限
Reformer 模型由 Hugging Face 在 2020 年 7 月推出，透過結合 LSH 自注意力、局部自注意力、分塊前饋層、可逆殘差和軸向位置編碼，使得在少於 8 GB RAM 的情況下可訓練長度達到五十萬個 token 的序列。
Hugging Face 文本生成解碼方法指南
Hugging Face 提供關於自回歸解碼策略的全面概述，包括 Greedy Search、Beam Search 以及採樣（Top-K 與 Top-p），以優化 Transformers 中的開放式語言生成。
使用 Transformers 和 Tokenizers 從頭開始訓練語言模型
Hugging Face 提供了一份關於使用 Transformers 和 Tokenizers 函式庫從頭開始訓練新語言模型的全面指南與演示，其特色是為世界語（Esperanto）建立 EsperBERTo 模型。