Hugging Face Hub 資料集共享給研究者
Hugging Face Hub 提供一個綜合平台，用於託管和共享大規模 ML 資料集，並具備整合的探索、安全和社區參與工具。
Hugging Face PyCharm 整合
Hugging Face 已將其 Hub 直接整合至 PyCharm Professional，讓開發者無需離開 IDE 即可探索、插入並管理機器學習模型。
Argilla 2.4 版本說明 / 新功能
Argilla 2.4 引入無程式碼 UI，讓使用者可匯入 Hugging Face Hub 資料集，透過人類回饋建立微調與評估資料集。
通用輔助生成：使用任何助理模型加速解碼
Hugging Face 與 Intel Labs 推出通用輔助生成（UAG），這種方法允許任何小型模型作為助理模型加速 LLM 推理，提升 1.5 倍至 2.0 倍的效能，且不受分詞器限制。
Digital Green Farmer.chat: 以 LLM 作為評審提升 RAG
Digital Green 為 Farmer.chat（基於 RAG 的農業聊天機器人）實施了 LLM 作為評審的評估框架，以客觀衡量 RAG 準確度並在 34 萬次查詢中優化模型選擇。
Aya Expanse 發布：推進多語言大型語言模型效能
Hugging Face 與 Cohere For AI 已發布 Aya Expanse，這是一系列 8B 與 32B 開放權重模型，創下多語言效能的新最高基準。
HUGS 發布：零配置、硬體最佳化的開源大型語言模型推論服務
Hugging Face 推出 HUGS，一項零配置、硬體最佳化的開源大型語言模型推論服務，支援 NVIDIA、AMD，未來將支援 AWS Inferentia 與 Google TPU，讓企業能在內部部署模型，並提供相容 OpenAI 的 API。
CinePile 2.0 發布：對抗式精煉提升影片問答資料集品質
CinePile 2.0 引入對抗式精煉流程，將薄弱的 QA 配對升級為依賴視覺的問題，並同時發布改進後的資料集與完整程式碼，顯示商業與開源影片大型語言模型皆有顯著效能提升。
Transformers v4.46.0 中的 SynthID Text 整合
Google DeepMind 與 Hugging Face 已將 SynthID Text 整合至 Transformers v4.46.0，提供一種在 AI 生成文字上加上不可察覺水印，並透過訓練好的分類器進行偵測的方法。
在 Hugging Face 推論端點上部署 Speech-to-Speech
Hugging Face 提供了一份指南，說明如何在推論端點上使用自訂 Docker 映像部署其 Speech-to-Speech (S2S) 管線，以應對高計算需求並降低延遲。
Outlines-core 0.1.0 版本說明 / 新功能
Hugging Face 和 dottxt 已發布 outlines-core 0.1.0，這是 Outlines 核心演算法的 Rust 移植版，用於結構化生成，提升了索引編譯速度與可移植性。
Stable Diffusion 3.5 Large 與 Diffusers 整合
Hugging Face 已將 Stable Diffusion 3.5 Large（8B 參數模型，提供標準版與時間步蒸餾版）整合至 Diffusers 函式庫。
Hugging Face 與 Protect AI 合作，為模型安全新增 Guardian 掃描器
Hugging Face 與 Protect AI 合作，將 Guardian 掃描器嵌入 Hub，自動偵測危險的模型序列化漏洞，提升整個機器學習社群的安全性。
Transformers.js v3 版本發布，新增 WebGPU 加速、擴充模型支援，並支援伺服器端 JavaScript 相容性
Transformers.js v3 加入了 WebGPU 加速、新的量化格式、支援 120 種模型架構，並支援 Node.js、Deno、Bun，使得在瀏覽器與 JavaScript 執行環境中能進行快速的裝置端推論。
Keras 中的 Llama 3.2
Llama 3.2 透過 keras-hub 完全支援於 Keras，讓使用者能載入 Hugging Face 檢查點，並在 JAX、PyTorch 或 TensorFlow 後端上執行模型。
Hugging Face Transformers 梯度累積修正
Hugging Face 已更新 Transformers Trainer，透過修正批次間損失的平均方式，確保梯度累積在數學上等同於完整批次訓練。
Gradio 5 安全審查
Hugging Face 與 Trail of Bits 合作，對 Gradio 5 進行了全面的安全審計，修復了所有已識別的漏洞，確保機器學習應用程式在預設情況下即安全。
AMD EPYC Turin CPU 在 Genoa 之上提供 2× LLM 推理吞吐量
AMD 第五代 EPYC Turin CPU 的 LLM 推理吞吐量大約是 Genoa 的兩倍，為 Hugging Face 工作負載帶來更低的延遲和更高的吞吐量。
使用 Hugging Face 與 Dask 擴展 AI 資料處理規模
Hugging Face 與 Dask 讓 AI 資料處理能從小規模本地樣本擴展至數億筆資料，透過分散式運算與多 GPU 並行推論實現。
Gradio 5 版本說明
Hugging Face 已發布 Gradio 5，這是一個可直接投入生產的框架，用於使用 Python 建構高效、可擴展且安全的機器學習 Web 應用程式。
Hugging Face Transformers 4.45.0 動態投機解碼
Hugging Face 與 Intel Labs 在 Transformers 4.45.0 中引入了動態投機解碼，透過根據模型信心動態調整草稿 token 數量，使文字生成速度提升最高可達 2.7 倍。
在 Hugging Face Hub 上改進 Parquet 去重
Hugging Face 正在優化其儲存架構以提升 Parquet 檔案的去重效能，並提出內容定義的列群組，以減少資料集更新時的儲存開銷。
Open FinLLM Leaderboard 發布 – 全面零樣本金融語言模型基準測試
Hugging Face 推出了 Open FinLLM Leaderboard，這是一個零樣本基準，涵蓋七大類別的 40 項金融專屬任務，用於評估大型語言模型在真實金融應用中的就緒程度。
中國 AI 全球擴張分析
中國 AI 公司因國內市場飽和、激烈的價格戰與監管壓力，加速國際擴張，目標包括東南亞、中東以及西方消費者市場。
BenCzechMark：針對捷克語 LLM 的全面評估套件
Hugging Face 與學術合作夥伴發布了 BenCzechMark，這是首個針對捷克語模型的全面評估套件，包含 9 個類別的 50 項任務，並採用新穎的對決式計分機制。
將頂點著色網格轉換為貼圖網格
Hugging Face 推出了一種方法和 InstantTexture 函式庫，用於將頂點著色的 3D 網格轉換為 UV 映射的貼圖網格，以提升應用程式相容性。
Llama 3.2 發行說明：多模態視覺與裝置端小型語言模型
Meta 已發布 Llama 3.2，推出 11B 與 90B 兩種規模的多模態視覺功能，以及針對裝置端部署優化的輕量級 1B 與 3B 純文字模型。
Hugging Face 每日論文功能指南
Hugging Face 的每日論文頁面提供了一個由社群策展的 AI 研究中心，具備作者認領、論文提交以及研究人員與開發者之間直接互動的工具。
FineVideo 資料集發布
Hugging Face 已發布 FineVideo，一個高品質的開放影片資料集，包含 43,000 部影片（3,400 小時），具備豐富且結構化的標註，用於影片理解與生成式 AI 訓練。
使用 Optimum-Intel 與 OpenVINO GenAI 優化與部署 Hugging Face 模型
Hugging Face 與 Intel 提供了一個簡化的工作流程，利用 Optimum-Intel 與 OpenVINO GenAI 在 Intel 硬體上優化與部署 Transformers 模型，特別針對邊緣與客戶端的 C++ 與 Python 環境。
微調 LLM 至 1.58 位元：使用 BitNet 的極端量化
Hugging Face 展示了現有的 LLM（例如 Llama 3 8B）可以透過動態暖身量化策略微調至 1.58 位元三元精度，顯著降低記憶體與能源需求，同時保持強勁的效能。
Hugging Face 資料集 SQL 主控台
Hugging Face 推出了基於瀏覽器的 SQL 主控台，使用 DuckDB WASM 作為引擎，使用者可以直接在 Hub 上查詢、篩選與轉換資料集，無需後端依賴。
HuggingChat 社群工具發布
Hugging Face 在 HuggingChat 上推出了社群工具，讓使用者能將任何公開的 Hugging Face Space 整合為 LLM 可直接在聊天介面中使用的工具。
Accelerate 1.0.0 釋出候選版公告
Accelerate 1.0.0 釋出候選版加入 FP8、DeepSpeed 多模型、torch.compile 以及全新資料載入器/管線功能，同時穩定大規模訓練與推論的 API。
Hugging Face 與 TruffleHog 秘密掃描合作夥伴關係
Hugging Face 與 Truffle Security 合作，將 TruffleHog 的秘密掃描功能整合至其自動化管線，並提供原生掃描器，讓使用者能主動掃描自己的帳戶資料。
LeRobotDataset 影片編碼格式減少機器人資料集大小並加速訓練
Hugging Face 發布了 LeRobotDataset 影片編碼格式，將機器人視覺資料縮減至原始大小約 14 %，同時保持載入速度與訓練效能不變。
Hugging Face 部落格文章突顯五個被低估的 Hub 工具與免費語意搜尋案例
Hugging Face 宣布了五個被低估的 Hub 工具——ZeroGPU、多程序 Docker、Gradio API、webhooks 與 Nomic Atlas，並示範如何將它們結合成一個免費、可自動更新的 Reddit 資料語意搜尋應用。
Hugging Face 訓練效率：使用 Flash Attention 2 的打包
Hugging Face 引入了具備邊界感知的指令微調樣本打包，搭配 Flash Attention 2 使用時，可提升至 2 倍的訓練吞吐量並降低 20% 的峰值記憶體使用量。
在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 提供了一份指南，說明如何使用 Text Generation Inference (TGI) 與 A3 系列機器，在 Google Cloud Vertex AI 上以程式方式部署 Meta Llama 3.1 405B 的 FP8 量化版本。
Hugging Face Infini-Attention 再現分析
Hugging Face 嘗試再現 Infini-Attention 的結果顯示，雖然門控收斂可以得到改善，但隨著記憶壓縮程度提升，方法的效能會下降，且仍不如 Ring Attention、YaRN 或 RoPE scaling 可靠。
ggml 簡介
ggml 是一個輕量級的 C/C++ 機器學習函式庫，針對 Transformer 推論與多種硬體後端的裝置端大型語言模型執行進行了最佳化。
Hugging Face 統一工具使用 API
Hugging Face 推出了一個統一的工具使用 API，讓開發者能夠使用相同的程式碼在 Mistral、Cohere、NousResearch 與 Llama 模型上實作工具呼叫。
Falcon Mamba 7B 版本說明
科技創新研究院（TII）發布了 Falcon Mamba 7B，這是首個大規模純粹的狀態空間語言模型（SSLM），在效能上與最先進的 Transformer 模型相當，同時消除了基於注意力的記憶體擴展問題。
Hugging Face 收購 XetHub 以升級 Hub 儲存與協作
Hugging Face 收購 XetHub，以取代 Git LFS，使用更高效的儲存後端，實現增量更新、千兆參數模型支援，並提升對大規模 AI 資料集的協作效能。
Hugging Face TextImage Augmentation 管線發布
Hugging Face 與 Albumentations AI 推出了 TextImage Augmentation 管線，該管線同步修改文件圖像及其文字，實現真實的合成資料生成，並在有限的文件資料集上對視覺‑語言模型進行穩健的微調。
Hugging Face 2024 安全功能亮點
Hugging Face 詳細說明了 2024 年的安全全景，為所有使用者推出一套預設防護，並為 Enterprise Hub 使用者提供進階治理控制。
Google 發布 Gemma 2 2B、ShieldGemma 與 Gemma Scope
Google 發布了 Gemma 2 2B、ShieldGemma 安全分類器以及 Gemma Scope 稀疏自編碼器，擴展了開源大型語言模型的功能、審核工具與可解釋性資源。
Quanto 量化減少 Transformer 擴散管線的記憶體使用
Hugging Face 的量化工具（Quanto）將 Transformer 擴散模型的 GPU 記憶體需求從約 12 GB 降至約 5 GB，且僅帶來極小的延遲與品質影響。
Hugging Face NVIDIA NIM API（無伺服器）發布與停用
Hugging Face 為 Enterprise Hub 用戶推出了 NVIDIA NIM API（無伺服器），提供即付即用、無伺服器的開源大型語言模型（LLM）推論服務，透過 OpenAI 相容的 API 在 NVIDIA DGX Cloud H100 GPU 上執行。
LAVE：使用 LLM 在 Docmatix 上的零樣本 VQA 評估
Hugging Face 推出 LAVE（LLM 輔助 VQA 評估），以解決傳統 VQA 指標的僵硬問題，並在 Docmatix 資料集上評估零樣本表現時，展示出 50% 的準確率提升。