Falcon 模型發布與 Hugging Face 生態系統整合
Hugging Face 宣布了 Falcon 系列開放 Apache‑2.0 授權的語言模型,強調 Falcon‑40B 在 Open LLM 排行榜上的首位排名,並展示如何使用 Hugging Face 工具來運行、量化和微調它們。
AI 語音辨識在 Unity 中
Hugging Face 提供了一份指南和 API,以在 Unity 遊戲中實作最先進的自動語音辨識 (ASR),從而啟用語音命令和 NPC 互動。
OpenAI 網路安全補助金計畫
OpenAI 已推出 $1M 網路安全補助金計畫,以賦能防禦者並量化 AI 在網路安全中的角色,之後隨著 GPT-5.3-Codex 的發布,該計畫演進為包含 $10M API 點數及 Trusted Access for Cyber。
Hugging Face 開放原始碼 AI 遊戲 Jam 公告
Hugging Face 將於 2023 年 7 月 7 日至 9 日舉辦 開放原始碼 AI 遊戲 Jam,以鼓勵遊戲開發者將開放原始碼生成式 AI 工具整合到他們的開發工作流程和遊戲功能中。
OpenAI 透過過程監督提升數學推理
OpenAI 已開發出一種方法,透過獎勵每一個正確的推理步驟(過程監督)而非僅獎勵最終答案(結果監督),來改善數學問題解決,從而達到最先進的表現和更好的 AI 對齊。
Hugging Face LLM 推理容器適用於 Amazon SageMaker
Hugging Face 已為 Amazon SageMaker 推出專門設計的 LLM 推理容器 (DLC),由 Text Generation Inference (TGI) 提供動力,以實現開源大型語言模型的高效能部署。
OpenAI 民主輸入 AI 計畫
OpenAI 推出一項補助金計畫,資助十項每項 $100,000 的實驗,旨在開發決定 AI 系統應遵循規則的民主程序。
優化 Intel CPU 上的 Stable Diffusion 使用 NNCF 與 🤗 Optimum
Hugging Face 宣佈了一個使用 NNCF 與 Optimum 來對 Stable Diffusion 進行量化並應用 Token Merging 的工作流程,在 Intel CPU 上實現最高 5.1 倍的推理加速,並將模型佔用空間減少 4 倍。
Hugging Face Model Catalog 在 Azure Machine Learning 上
Hugging Face 與 Microsoft 已在 Azure Machine Learning Studio 內推出 Hugging Face Hub Model Catalog 的原生整合,以簡化在安全的 Azure 基礎設施上部署開放原始碼模型。
Hugging Face 4 位元量化與 QLoRA 發布
Hugging Face 宣布透過 bitsandbytes 支援 4 位元量化以及 QLoRA 方法,使大型語言模型能在消費級 GPU 上進行推論與適配器微調。
使用 InstructPix2Pix 進行 Stable Diffusion 的指令微調
Hugging Face 探索擴展 InstructPix2Pix,以透過多任務指令微調方法教導 Stable Diffusion 遵循特定的圖像翻譯與低階處理指令。
Hugging Face Safetensors 安全審計與預設採用
Hugging Face、EleutherAI 與 Stability AI 正在將 safetensors 轉為預設的模型保存格式,此舉是基於 Trail of Bits 的安全審計,該審計確認未發現導致任意程式碼執行的重大缺陷。
Hugging Face 與 IBM 的 watsonx.ai 合作夥伴關係
Hugging Face 與 IBM 合作,將 Hugging Face 的開源函式庫與模型整合至 watsonx.ai,這是一個用於訓練、微調與部署基礎模型的企業 AI 工作室。
OpenAI 超級智慧治理提案
OpenAI 提出一個由國際協調、類似 IAEA 的全球監管機構以及先進安全研究三大支柱構成的超級智慧管理框架。
Q8-Chat:在 Intel Xeon CPU 上的高效生成式 AI
Hugging Face 與 Intel 示範,使用 SmoothQuant 將大型語言模型壓縮至 8 位元整數,可在單插槽 Intel Xeon CPU 上高效執行高品質聊天體驗。
大規模近重複刪除背後的 BigCode
Hugging Face 詳細說明了使用 MinHash 與 Locality Sensitive Hashing(LSH)在 BigCode 計畫中執行大規模近重複刪除,並證明移除近重複資料可提升模型效能與訓練效率。
RWKV 架構整合至 Hugging Face Transformers
Hugging Face 宣布將 RWKV RNN‑Transformer 混合模型整合至 Transformers 函式庫,讓開源的長上下文語言模型結合 RNN 的效率與 Transformer 的效能。
在 AMD GPU 上使用 ROCm 執行 Vicuna 13B
Hugging Face 提供了一份技術指南,說明如何在單一 AMD GPU 上使用 ROCm 與 GPTQ 4 位元量化部署 Vicuna 13B 開源聊天機器人,將記憶體需求從 28GB 降至 7.52GB。
Hugging Face 入選 CNIL 加強支援計畫
Hugging Face 已被法國資料保護機構(CNIL)選入其加強支援計畫,以提升在 AI 開發中資料保護與 GDPR 合規的落實。
Hugging Face 輔助生成以降低延遲的文字生成
Hugging Face 引入了 Assisted Generation,一種利用較小的輔助模型預測候選 token,並由較大的模型驗證的解碼方法,可在某些硬體配置下將延遲降低至最高 10 倍。
OpenAI 發布使用 GPT‑4 的 GPT‑2 自動神經元說明資料集
OpenAI 宣布了一種使用 GPT‑4 為 GPT‑2 中每個神經元生成與評分自然語言說明的方法,並將產生的資料集、檢視器與程式碼釋出給研究社群。
使用 StarCoder 創建編程助手 – 摘要
本文說明了 Hugging Face 團隊如何將 16 B 參數的 StarCoder 程式碼生成模型轉變為對話式編程助手(StarChat‑α)。透過新增特殊聊天標記、準備過濾後的 Open‑Assistant 對話資料集,並使用 DeepSpeed ZeRO‑3 進行微調,他們訓練出一個能理解使用者提示並產生可執行程式碼(例如繪圖、地圖、視覺化)的模型。文章亦涵蓋了 tokenizer 設定、使用者回合的損失遮蔽、訓練配置、評估(包括基準測試與 LLM 為基礎的評估)、限制與未來方向。最終模型已在 Hub 上公開提供。
深入探討文字到影片模型
Hugging Face 提供了文字到影片生成模型演變的技術概述,詳細說明了從 GAN 到 Transformer 以及 Diffusion 架構的轉變,同時突顯了時間一致性與資料稀缺的獨特挑戰。
StarCoder 發行說明
Hugging Face 與 ServiceNow 的 BigCode 合作發布了 StarCoder 與 StarCoderBase,這兩款 15B 參數的程式碼 LLM 以寬鬆授權的資料訓練,並在程式設計基準測試中超越多個開放與封閉模型。
Hugging Face Unity API 安裝與使用指南
Hugging Face Unity API 讓開發者能透過專屬套件與 API wizard,將 Hugging Face Inference API 模型整合至 Unity 專案中。
使用 Hugging Face Transformers、TensorFlow 與 TPU 訓練語言模型
Hugging Face 提供了一套可擴展的端對端指南,使用 TensorFlow 與 TPU pod 從頭訓練遮蔽語言模型,透過 XLA 相容性實現高效能運算。
Databricks 與 Hugging Face 整合 Apache Spark 加速 LLM 訓練
Databricks 透過 Dataset.from_spark() 函式在 Hugging Face Datasets 中引入了第一流的 Apache Spark 支援,將大型模型訓練與微調的資料載入時間縮短最高可達 40%。
在免費等級的 Google Colab 上使用 Diffusers 執行 DeepFloyd IF
Hugging Face 示範了如何在免費的 Google Colab 筆記本上執行開源的 DeepFloyd IF 文字轉圖像模型,方法包括使用 8 位元量化、模組化管線載入以及 Diffusers 整合的最佳化。
OpenAI 為 ChatGPT 推出全新資料管理控制
OpenAI 推出了一項新設定,可停用聊天記錄以防止模型在使用者對話上進行訓練,同時規劃 ChatGPT 商務訂閱與全新資料匯出工具。
Hugging Face 推出中文語言部落格以支援全球 AI 社群
Hugging Face 已推出專屬中文語言部落格 (hf.co/blog/zh),提供翻譯技術資源,並促進與中文 AI 社群更深入的合作。
在 Hugging Face Spaces 上託管 Unity 遊戲
Hugging Face Spaces 可透過使用 Static HTML 模板與 WebGL 建置目標來託管可遊玩的 Unity 遊戲。
使用 AWS Inferentia2 加速 Hugging Face Transformers
Hugging Face 與 AWS 已針對 AWS Inferentia2 這款專為推論設計的加速器,優化了 Transformers,使大型模型的延遲顯著降低,吞吐量顯著提升。
使用 Transformers 進行圖形分類
Hugging Face 示範了如何在 Transformers 套件中使用 Graphormer 模型執行圖形分類,涵蓋資料格式化、前處理與微調。
使用 Substra 創建隱私保護的 AI
Hugging Face 與 Substra 強調聯邦學習如何在分散式資料來源上訓練 AI 模型,以維護隱私與安全,尤其在醫療等敏感領域。
OpenAI 漏洞懸賞計畫公告
OpenAI 與 Bugcrowd 合作推出漏洞懸賞計畫,以獎勵安全研究人員發現並修補系統中的漏洞。
Snorkel AI 與 Hugging Face 企業基礎模型整合
Snorkel AI 與 Hugging Face 合作,將 Hugging Face Inference Endpoints 整合至 Snorkel Flow,讓企業能輕鬆存取並調整超過 150,000 個開源基礎模型。
OpenAI 對 AI 安全的做法
OpenAI 採用多層次的安全策略,結合嚴謹的部署前測試、迭代的實務部署以及持續的對齊研究,以降低強大 AI 系統所帶來的風險。
StackLLaMA:使用 RLHF 訓練 LLaMA 於 Stack Exchange
Hugging Face 推出 StackLLaMA,一個透過監督式微調、獎勵模型與人類回饋強化學習(RLHF)訓練,以回答 Stack Exchange 問題的模型。
Hugging Face 倫理與社會通訊 #3:倫理開放倡議
Hugging Face 宣布了新的倫理開放措施——包括六個倫理標籤、舉報系統以及受眾導向的元資料——以使開源機器學習更安全且更具包容性。
在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理
Hugging Face 示範了如何在 Intel Sapphire Rapids CPU 上,透過 Optimum Intel、OpenVINO、系統層級調整、IPEX BF16 與更快的排程器,將 Stable Diffusion 影像生成時間從 32 秒縮短至約 5 秒。
BLOOMZ 在 Habana Gaudi2 加速器上的推論
Hugging Face 示範了 Habana Gaudi2 加速器在 BLOOMZ 176B 模型上的推論速度快於 Nvidia A100 80GB,並利用 Optimum Habana 函式庫與 DeepSpeed‑inference。
使用 Hugging Face 與 Flower 的聯邦學習
Hugging Face 示範如何使用 Flower 框架在預訓練的 distilBERT 模型上進行聯邦學習,以對 IMDB 資料集執行情感分析。
OpenAI 3月20日 ChatGPT 停機與資料外洩分析
OpenAI 因開源函式庫的錯誤於 2023 年 3 月 20 日將 ChatGPT 下線,該錯誤導致部分活躍的 ChatGPT Plus 訂閱者的聊天標題與付款資訊外洩。
使用 Hugging Face Diffusers 訓練 ControlNet
Hugging Face 透過 diffusers 函式庫提供完整的指南與訓練腳本,讓使用者能夠為 Stable Diffusion 訓練自訂的 ControlNet 模型,並以「Uncanny Faces」姿勢模型的製作作為示範。
ChatGPT 插件發布
OpenAI 已為 ChatGPT 推出插件,使模型能夠存取即時資訊、執行計算,並整合第三方服務,以擴展其功能並降低幻覺現象。
Hugging Face Hub 改進的 Jupyter Notebook 支援
Hugging Face 為託管於 Hub 的 Jupyter Notebook 引入了可供人類閱讀的渲染,提升了機器學習實踐者的可重現性與可取得性。
GPT 即 GPT:大型語言模型對勞動市場的影響
OpenAI 研究顯示,大約 80% 的美國勞動力可能有至少 10% 的工作任務受到大型語言模型的影響,將其定位為通用技術。
OpenAI GPT-4 公告與功能概述
OpenAI 宣佈了 GPT-4,一個大型多模態模型,在許多專業基準上達到人類水平的表現,且現在可透過 ChatGPT、API 等候名單以及開源評估工具取得。
OpenAI 宣布 GPT‑4 驅動的虛擬志工服務於 Be My Eyes
OpenAI 將 GPT‑4 的視覺輸入整合到 Be My Eyes 應用程式中,打造了一位能描述、分析並與圖像對話的虛擬志工,顯著提升盲人與弱視使用者的視覺可及性。
Stripe GPT-4 整合案例研究
Stripe 在其平台上整合了 GPT-4,以自動化業務摘要、透過文件分析提升開發者支援,並改善社群論壇的詐騙偵測。