✷ 封存 · 11 個實驗室 · 3,061 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
BERTopic 與 Hugging Face Hub 的整合
Hugging Face 部落格文章中宣布 BERTopic 與 Hub 整合的貼文，除了標題之外，沒有提供可讀的詳細內容。
Hugging Face LLM 推理容器適用於 Amazon SageMaker
Hugging Face 已為 Amazon SageMaker 推出專門設計的 LLM 推理容器 (DLC)，由 Text Generation Inference (TGI) 提供動力，以實現開源大型語言模型的高效能部署。
OpenAI 民主輸入 AI 計畫
OpenAI 推出一項補助金計畫，資助十項每項 $100,000 的實驗，旨在開發決定 AI 系統應遵循規則的民主程序。
優化 Intel CPU 上的 Stable Diffusion 使用 NNCF 與 🤗 Optimum
Hugging Face 宣佈了一個使用 NNCF 與 Optimum 來對 Stable Diffusion 進行量化並應用 Token Merging 的工作流程，在 Intel CPU 上實現最高 5.1 倍的推理加速，並將模型佔用空間減少 4 倍。
Hugging Face Model Catalog 在 Azure Machine Learning 上
Hugging Face 與 Microsoft 已在 Azure Machine Learning Studio 內推出 Hugging Face Hub Model Catalog 的原生整合，以簡化在安全的 Azure 基礎設施上部署開放原始碼模型。
Hugging Face 4 位元量化與 QLoRA 發布
Hugging Face 宣布透過 bitsandbytes 支援 4 位元量化以及 QLoRA 方法，使大型語言模型能在消費級 GPU 上進行推論與適配器微調。
Anthropic 可解釋性夢想研究願景
Anthropic 概述了其在機械式可解釋性方面的長期願景，重點在於解決 superposition 挑戰，以實現對大規模神經網路的分析。
Anthropic Circuits Updates May 2023
Anthropic 2023 年 5 月的可解釋性更新涵蓋了對多智能體系統故障、勞動力再培訓計劃證據，以及研究版 Claude 在 Riemann zeta function 上的進展研究。
使用 InstructPix2Pix 進行 Stable Diffusion 的指令微調
Hugging Face 探索擴展 InstructPix2Pix，以透過多任務指令微調方法教導 Stable Diffusion 遵循特定的圖像翻譯與低階處理指令。
Hugging Face Safetensors 安全審計與預設採用
Hugging Face、EleutherAI 與 Stability AI 正在將 safetensors 轉為預設的模型保存格式，此舉是基於 Trail of Bits 的安全審計，該審計確認未發現導致任意程式碼執行的重大缺陷。
Hugging Face 與 IBM 的 watsonx.ai 合作夥伴關係
Hugging Face 與 IBM 合作，將 Hugging Face 的開源函式庫與模型整合至 watsonx.ai，這是一個用於訓練、微調與部署基礎模型的企業 AI 工作室。
Anthropic 籌集 4.5 億美元 C 輪融資以擴展可靠的 AI 產品
Anthropic 宣布了一輪由 Spark Capital 領投的 4.5 億美元 C 輪融資，旨在加速 Claude 助手的開發、擴展產品線，並資助 AI 安全研究。
OpenAI 超級智慧治理提案
OpenAI 提出一個由國際協調、類似 IAEA 的全球監管機構以及先進安全研究三大支柱構成的超級智慧管理框架。
Q8-Chat：在 Intel Xeon CPU 上的高效生成式 AI
Hugging Face 與 Intel 示範，使用 SmoothQuant 將大型語言模型壓縮至 8 位元整數，可在單插槽 Intel Xeon CPU 上高效執行高品質聊天體驗。
大規模近重複刪除背後的 BigCode
Hugging Face 詳細說明了使用 MinHash 與 Locality Sensitive Hashing（LSH）在 BigCode 計畫中執行大規模近重複刪除，並證明移除近重複資料可提升模型效能與訓練效率。
Anthropic 與 Zoom 的合作夥伴關係與投資
Anthropic 與 Zoom 已建立合作夥伴關係，將 Claude AI 整合至 Zoom 的企業協作產品中，且 Zoom Ventures 已對 Anthropic 進行投資。
RWKV 架構整合至 Hugging Face Transformers
Hugging Face 宣布將 RWKV RNN‑Transformer 混合模型整合至 Transformers 函式庫，讓開源的長上下文語言模型結合 RNN 的效率與 Transformer 的效能。
在 AMD GPU 上使用 ROCm 執行 Vicuna 13B
Hugging Face 提供了一份技術指南，說明如何在單一 AMD GPU 上使用 ROCm 與 GPTQ 4 位元量化部署 Vicuna 13B 開源聊天機器人，將記憶體需求從 28GB 降至 7.52GB。
Hugging Face 入選 CNIL 加強支援計畫
Hugging Face 已被法國資料保護機構（CNIL）選入其加強支援計畫，以提升在 AI 開發中資料保護與 GDPR 合規的落實。
Hugging Face 輔助生成以降低延遲的文字生成
Hugging Face 引入了 Assisted Generation，一種利用較小的輔助模型預測候選 token，並由較大的模型驗證的解碼方法，可在某些硬體配置下將延遲降低至最高 10 倍。
Anthropic 宣布 Claude 提供 100K Token 上下文視窗
Anthropic 將 Claude 的上下文視窗從 9K 擴展到 100K tokens，使模型能夠在不到一分鐘的時間內攝取並分析數百頁的文本。
OpenAI 發布使用 GPT‑4 的 GPT‑2 自動神經元說明資料集
OpenAI 宣布了一種使用 GPT‑4 為 GPT‑2 中每個神經元生成與評分自然語言說明的方法，並將產生的資料集、檢視器與程式碼釋出給研究社群。
使用 StarCoder 創建編程助手 – 摘要
本文說明了 Hugging Face 團隊如何將 16 B 參數的 StarCoder 程式碼生成模型轉變為對話式編程助手（StarChat‑α）。透過新增特殊聊天標記、準備過濾後的 Open‑Assistant 對話資料集，並使用 DeepSpeed ZeRO‑3 進行微調，他們訓練出一個能理解使用者提示並產生可執行程式碼（例如繪圖、地圖、視覺化）的模型。文章亦涵蓋了 tokenizer 設定、使用者回合的損失遮蔽、訓練配置、評估（包括基準測試與 LLM 為基礎的評估）、限制與未來方向。最終模型已在 Hub 上公開提供。
Claude's Constitution: Implementing Constitutional AI for Model Alignment
Anthropic 介紹了 Constitutional AI，這是一種訓練 Claude 變得助人、誠實且無害的方法，它使用一套明確的書面原則，而不是僅僅依賴隱含的人類回饋。
深入探討文字到影片模型
Hugging Face 提供了文字到影片生成模型演變的技術概述，詳細說明了從 GAN 到 Transformer 以及 Diffusion 架構的轉變，同時突顯了時間一致性與資料稀缺的獨特挑戰。
StarCoder 發行說明
Hugging Face 與 ServiceNow 的 BigCode 合作發布了 StarCoder 與 StarCoderBase，這兩款 15B 參數的程式碼 LLM 以寬鬆授權的資料訓練，並在程式設計基準測試中超越多個開放與封閉模型。
Anthropic 研究：分散式表示、組合與疊加
Anthropic 釐清了分散式表示中組合與疊加之間的區別，解釋了這兩種機制如何影響神經網路的泛化能力與線性可計算性。
Hugging Face Unity API 安裝與使用指南
Hugging Face Unity API 讓開發者能透過專屬套件與 API wizard，將 Hugging Face Inference API 模型整合至 Unity 專案中。
使用 Hugging Face Transformers、TensorFlow 與 TPU 訓練語言模型
Hugging Face 提供了一套可擴展的端對端指南，使用 TensorFlow 與 TPU pod 從頭訓練遮蔽語言模型，透過 XLA 相容性實現高效能運算。
Databricks 與 Hugging Face 整合 Apache Spark 加速 LLM 訓練
Databricks 透過 Dataset.from_spark() 函式在 Hugging Face Datasets 中引入了第一流的 Apache Spark 支援，將大型模型訓練與微調的資料載入時間縮短最高可達 40%。
在免費等級的 Google Colab 上使用 Diffusers 執行 DeepFloyd IF
Hugging Face 示範了如何在免費的 Google Colab 筆記本上執行開源的 DeepFloyd IF 文字轉圖像模型，方法包括使用 8 位元量化、模組化管線載入以及 Diffusers 整合的最佳化。
Anthropic 與 Scale 的企業級生成式 AI 合作夥伴關係
Anthropic 已與 Scale 合作，將 Claude AI 助手整合至 Scale 的平台中，為企業提供部署工具、提示工程以及安全的數據整合。
OpenAI 為 ChatGPT 推出全新資料管理控制
OpenAI 推出了一項新設定，可停用聊天記錄以防止模型在使用者對話上進行訓練，同時規劃 ChatGPT 商務訂閱與全新資料匯出工具。
Hugging Face 推出中文語言部落格以支援全球 AI 社群
Hugging Face 已推出專屬中文語言部落格 (hf.co/blog/zh)，提供翻譯技術資源，並促進與中文 AI 社群更深入的合作。
在 Hugging Face Spaces 上託管 Unity 遊戲
Hugging Face Spaces 可透過使用 Static HTML 模板與 WebGL 建置目標來託管可遊玩的 Unity 遊戲。
Anthropic 提議增加 NIST 用於 AI 量測的資金
Anthropic 提議雄心勃勃地資助美國國家標準暨技術研究院 (NIST)，以開發標準化的 AI 量測工具與安全閾值，他們認為這是有效 AI 監管的前提條件。
使用 AWS Inferentia2 加速 Hugging Face Transformers
Hugging Face 與 AWS 已針對 AWS Inferentia2 這款專為推論設計的加速器，優化了 Transformers，使大型模型的延遲顯著降低，吞吐量顯著提升。
使用 Transformers 進行圖形分類
Hugging Face 示範了如何在 Transformers 套件中使用 Graphormer 模型執行圖形分類，涵蓋資料格式化、前處理與微調。
使用 Substra 創建隱私保護的 AI
Hugging Face 與 Substra 強調聯邦學習如何在分散式資料來源上訓練 AI 模型，以維護隱私與安全，尤其在醫療等敏感領域。
OpenAI 漏洞懸賞計畫公告
OpenAI 與 Bugcrowd 合作推出漏洞懸賞計畫，以獎勵安全研究人員發現並修補系統中的漏洞。
Snorkel AI 與 Hugging Face 企業基礎模型整合
Snorkel AI 與 Hugging Face 合作，將 Hugging Face Inference Endpoints 整合至 Snorkel Flow，讓企業能輕鬆存取並調整超過 150,000 個開源基礎模型。
OpenAI 對 AI 安全的做法
OpenAI 採用多層次的安全策略，結合嚴謹的部署前測試、迭代的實務部署以及持續的對齊研究，以降低強大 AI 系統所帶來的風險。
StackLLaMA：使用 RLHF 訓練 LLaMA 於 Stack Exchange
Hugging Face 推出 StackLLaMA，一個透過監督式微調、獎勵模型與人類回饋強化學習（RLHF）訓練，以回答 Stack Exchange 問題的模型。
Hugging Face 倫理與社會通訊 #3：倫理開放倡議
Hugging Face 宣布了新的倫理開放措施——包括六個倫理標籤、舉報系統以及受眾導向的元資料——以使開源機器學習更安全且更具包容性。
在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理
Hugging Face 示範了如何在 Intel Sapphire Rapids CPU 上，透過 Optimum Intel、OpenVINO、系統層級調整、IPEX BF16 與更快的排程器，將 Stable Diffusion 影像生成時間從 32 秒縮短至約 5 秒。
BLOOMZ 在 Habana Gaudi2 加速器上的推論
Hugging Face 示範了 Habana Gaudi2 加速器在 BLOOMZ 176B 模型上的推論速度快於 Nvidia A100 80GB，並利用 Optimum Habana 函式庫與 DeepSpeed‑inference。
使用 Hugging Face 與 Flower 的聯邦學習
Hugging Face 示範如何使用 Flower 框架在預訓練的 distilBERT 模型上進行聯邦學習，以對 IMDB 資料集執行情感分析。
OpenAI 3月20日 ChatGPT 停機與資料外洩分析
OpenAI 因開源函式庫的錯誤於 2023 年 3 月 20 日將 ChatGPT 下線，該錯誤導致部分活躍的 ChatGPT Plus 訂閱者的聊天標題與付款資訊外洩。
使用 Hugging Face Diffusers 訓練 ControlNet
Hugging Face 透過 diffusers 函式庫提供完整的指南與訓練腳本，讓使用者能夠為 Stable Diffusion 訓練自訂的 ControlNet 模型，並以「Uncanny Faces」姿勢模型的製作作為示範。
ChatGPT 插件發布
OpenAI 已為 ChatGPT 推出插件，使模型能夠存取即時資訊、執行計算，並整合第三方服務，以擴展其功能並降低幻覺現象。