GPT‑4o 系統卡 – 功能、 安全緩解措施與風險評估
OpenAI 發布了 GPT‑4o 系統卡，詳細說明了全能模型的功能、安全緩解措施，以及中等的整體風險評級。
Qwen2-Math 發布說明
Qwen 已發布 Qwen2-Math，一系列專門的數學大型語言模型（1.5B、7B 與 72B），在數學基準測試中超越多個封閉源模型，包括 GPT-4o。
Rakuten 與 OpenAI 合作夥伴關係：利用生成式 AI 獲取客戶洞見
Rakuten 正在利用 OpenAI 的 API、RAG 與 Code Interpreter，將非結構化資料轉換為自動化客服、評論摘要以及 B2B 市場洞見。
OpenAI 結構化輸出 API 功能公告
OpenAI 於 2024 年 8 月 6 日推出了結構化輸出，這是一項新的 API 功能，可保證模型回應完全符合開發者提供的 JSON Schema，提升資料導向應用的可靠性。
Hugging Face TextImage Augmentation 管線發布
Hugging Face 與 Albumentations AI 推出了 TextImage Augmentation 管線，該管線同步修改文件圖像及其文字，實現真實的合成資料生成，並在有限的文件資料集上對視覺‑語言模型進行穩健的微調。
Hugging Face 2024 安全功能亮點
Hugging Face 詳細說明了 2024 年的安全全景，為所有使用者推出一套預設防護，並為 Enterprise Hub 使用者提供進階治理控制。
Google 發布 Gemma 2 2B、ShieldGemma 與 Gemma Scope
Google 發布了 Gemma 2 2B、ShieldGemma 安全分類器以及 Gemma Scope 稀疏自編碼器，擴展了開源大型語言模型的功能、審核工具與可解釋性資源。
Quanto 量化減少 Transformer 擴散管線的記憶體使用
Hugging Face 的量化工具（Quanto）將 Transformer 擴散模型的 GPU 記憶體需求從約 12 GB 降至約 5 GB，且僅帶來極小的延遲與品質影響。
Hugging Face NVIDIA NIM API（無伺服器）發布與停用
Hugging Face 為 Enterprise Hub 用戶推出了 NVIDIA NIM API（無伺服器），提供即付即用、無伺服器的開源大型語言模型（LLM）推論服務，透過 OpenAI 相容的 API 在 NVIDIA DGX Cloud H100 GPU 上執行。
LAVE：使用 LLM 在 Docmatix 上的零樣本 VQA 評估
Hugging Face 推出 LAVE（LLM 輔助 VQA 評估），以解決傳統 VQA 指標的僵硬問題，並在 Docmatix 資料集上評估零樣本表現時，展示出 50% 的準確率提升。
OpenAI SearchGPT 原型公告
OpenAI 推出了 SearchGPT，一個結合 AI 模型與即時網路資訊的臨時原型，提供帶有清晰來源引用的直接答案。
OpenAI 基於規則的獎勵（RBR）模型安全
OpenAI 推出了基於規則的獎勵（RBR），這是一種使用明確、逐步規則來對齊 AI 安全行為的方法，無需大量的人類資料收集。
Llama 3.1 版本說明：多語言支援、長上下文與 405B 模型
Meta 已發布 Llama 3.1，提供 8B、70B 與 405B 大小的模型，具備 128K 上下文長度、支援 8 種語言的多語言功能，且採用寬鬆授權允許合成資料生成。
在 Core ML 上執行 Mistral 7B
Hugging Face 示範了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能執行 Mistral 7B，並透過 4 位元區塊式量化將模型大小縮減至低於 4GB。
GPT-4o mini 發布說明 / 有什麼新功能
OpenAI 已發布 GPT-4o mini，一款高度成本效益的小型模型，在關鍵推理與多模態基準測試中超越 GPT-3.5 Turbo 及其他小型模型。
Docmatix 資料集發布
Hugging Face 已發布 Docmatix，一個文件視覺問答（DocVQA）資料集，包含 240 萬張影像與 950 萬組問答對，規模較先前資料集提升了 240 倍。
TGI Multi-LoRA：一次部署，服務 30 個模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服務，使組織能夠部署單一基礎模型，並動態提供數十個專門微調的適配器，以降低成本和營運複雜度。
ChatGPT Enterprise 合規與管理工具更新
OpenAI 推出了合規 API、用於自動化使用者管理的 SCIM，以及細緻的 GPT 控制功能，協助企業客戶符合監管要求，安全擴展 AI 部署。
OpenAI 證明者‑驗證者遊戲提升語言模型輸出的可讀性
OpenAI 宣布了一種證明者‑驗證者遊戲的訓練方法，使強大的語言模型能產生較弱模型可驗證的解答，從而提升正確性與人類可讀性。
Argilla SDK 聊天機器人（使用 distilabel）– 端對端教學
Hugging Face 發布了一篇教學，說明如何使用 distilabel 產生的合成資料、微調的嵌入、lancedb 向量儲存，以及部署於 Spaces 的 Gradio 應用，打造 Argilla 2.0 聊天機器人。
SmolLM 發布：高效能小型語言模型
Hugging Face 介紹 SmolLM，一個由最先進的小型語言模型（135M、360M 與 1.7B 參數）組成的系列，這些模型在精心策劃的高品質資料集上進行訓練。
NuminaMath 7B TIR 榮獲 AIMO 進步獎 – 技術回顧
NuminaMath 7B TIR 透過解答 50 個隱藏數學問題中的 29 題，贏得了首屆 AIMO 進步獎，展示了兩階段微調方案、大規模高品質數學數據以及結合工具整合推理的自我一致性推理策略的威力。
OpenAI 與洛斯阿拉莫斯國家實驗室生物科學研究合作夥伴關係
OpenAI 與洛斯阿拉莫斯國家實驗室合作，評估類似 GPT-4o 的多模態前沿 AI 模型如何在實驗室實體環境中安全協助科學家，推動生物科學研究的進展。
Hugging Face PII 偵測實驗與 Presidio
Hugging Face 正在嘗試將 Microsoft Presidio 整合至 Dataset Hub，以提供自動化的 PII 偵測報告，協助實務者辨識並降低機器學習資料集中的隱私風險。
TRL 為視覺語言模型新增 Direct Preference Optimization 支援
Hugging Face 在 TRL 函式庫中為視覺語言模型新增了 Direct Preference Optimization (DPO) 支援，讓開發者能透過 bfloat16 量化與 LoRA 技術，在單個 GPU 上使用偏好數據對 Idefics-2 等模型進行微調。
Hugging Face 與 KerasHub 整合
Hugging Face 與 KerasHub 現在共享模型保存格式，讓 KerasHub 使用者能直接載入來自 Hugging Face Hub 超過 30 萬個 Transformers 庫模型。
Google Cloud TPU 在 Hugging Face 推理端點與 Spaces 上的應用
Hugging Face 已將 Google Cloud TPU v5e 支援整合至 Inference Endpoints 與 Spaces，讓使用者能以具成本效益且高效能的硬體部署與擴展 AI 模型。
Banque des Territoires、Polyconseil 與 Hugging Face 部署主權 RAG 解決方案以支援 EduRénov 計畫
Hugging Face、Polyconseil 與 Banque des Territoires 推出了一套主權、開源的 RAG 系統，以自動化法國 EduRénov 校園翻新計畫的電子郵件支援，確保資料居留，同時在公共政策領域擴展生成式 AI 的規模。
Hugging Face Dataset Hub 搜尋功能更新
Hugging Face 已推出四個新的搜尋過濾器——模態、大小、格式和程式庫相容性——以提升 Dataset Hub 上超過 180,000 個公開資料集的可發現性。
在 Intel Gaudi 2 上加速蛋白質語言模型 ProtST
Intel 與 MILA 已針對 Intel Gaudi 2 加速器優化了 ProtST 多模態蛋白質語言模型，實現了相較於 NVIDIA A100 GPU 高達 2.92 倍的微調加速。
Hugging Face Transformers 代碼代理 GAIA 基準測試結果
Hugging Face 使用基於 transformers.agents 庫構建的代碼代理，在 GAIA 基準測試中取得了最高排名，證明了代碼式行動比基於 JSON 的工具調用更高效且更有效。
使用 GPT-4 找出 GPT-4 的錯誤
OpenAI 推出 CriticGPT，一個基於 GPT-4 的模型，旨在識別 ChatGPT 程式碼輸出中的錯誤，以協助人類訓練師在 RLHF 過程中工作。
OpenAI 與 TIME 戰略內容合作夥伴關係
OpenAI 與 TIME 已簽訂多年期的戰略合作夥伴關係，將 TIME 百年新聞檔案整合至 OpenAI 產品，並為 TIME 提供 OpenAI 技術以開發產品。
Google Gemma 2 版本說明
Google 已發布 Gemma 2，這是一個開放權重的大型語言模型（LLM）家族，提供 9B 與 27B 參數規模，具備蒸餾與注意力機制等技術創新以提升效能。
XLSCOUT ParaEmbed 2.0 發布
XLSCOUT 已發布 ParaEmbed 2.0，這是一個在專家策劃的專利資料上微調的專有嵌入模型，較 ParaEmbed 1.0 提升了 23% 的準確度。
Hugging Face 倫理與社會通訊 #6：資料品質的重要性
Hugging Face 概述了一套全面且負責任的資料品質方法，強調高品質資料必須符合其預期用途，以確保 AI 模型效能、公平性以及科學可重現性。
微調微軟 Florence-2 於 DocVQA
Hugging Face 示範了如何在 DocVQA 資料集上微調微軟的 Florence-2 視覺語言模型，於七個 epoch 後將驗證相似度從 0 提升至 57.0。
OpenAI 收購 Rockset 以實時資料檢索
OpenAI 已收購即時分析資料庫 Rockset，將其高效能的索引與查詢功能整合至 OpenAI 的檢索基礎設施中。
OpenAI 網路安全補助計畫：支援 AI 驅動的防禦研究
OpenAI 強調了其網路安全補助計畫中的多個專案，旨在提升 LLM 的可信度、自動化漏洞偵測，以及開發自主的網路防禦代理人。
OpenAI 一致性模型：快速單步生成式 AI
OpenAI 已推出一致性模型，這是一系列新的生成模型，能透過直接將噪聲映射到數據來實現高品質、單步生成，克服了擴散模型緩慢的迭代取樣過程。
OpenAI 全面式不當內容偵測方法
OpenAI 推出了一套全面式框架，用於構建強韌的自然語言分類系統，以偵測包括性內容、暴力與騷擾在內的不當內容，且表現優於即用模型。
Hugging Face 數據共創倡議
Hugging Face 與 Argilla 發起了「Data Is Better Together」(DIBT) 倡議，旨在賦能開源社群共同創建高品質、多樣且具包容性的機器學習資料集。
Prezi 案例研究：透過 Hugging Face 專家支援加速機器學習路線圖
Prezi 正在利用 Hugging Face 專家支援計畫與 Inference Endpoints，將高效的開源多模態模型整合至其 Prezi AI 簡報生成工具中。
Paf 透過 ChatGPT Enterprise 與自訂 GPT 提升開發者生產力
遊戲公司 Paf 部署了 ChatGPT Enterprise 與超過 85 個自訂 GPT，以自動化樣板程式碼並加速開發者培訓，達到相當於 12 名全職員工的產出。
Clay：透過代理式銷售開發實現 10 倍成長
Clay 使用 GPT-4 為 Claygent 提供動力，這是一個自動化網路研究與資料豐富的 AI 代理，為 go-to-market 團隊服務，從而實現了 10 倍的年增長。
BigCodeBench：複雜 Python 程式碼生成的新基準
Hugging Face 發布了 BigCodeBench，這是一個包含 1,140 個函式層級任務的基準，旨在評估 LLM 在實務程式設計與多樣函式庫使用上的能力，解決 HumanEval 的簡單性與污染問題。
Color Health 使用 GPT-4o 加速癌症護理與診斷工作流程
Color Health 開發了一款由 GPT-4o 驅動的協助應用程式，協助臨床醫師辨識缺失的診斷項目並制定個人化的癌症篩檢與治療計畫。
OpenAI 任命退休美國陸軍將軍 Paul M. Nakasone 為董事會成員
OpenAI 任命退休美國陸軍將軍 Paul M. Nakasone 為其董事會成員，以加強公司在 AI 能力邁向通用人工智慧（AGI）過程中的網路安全姿態與安全監督。
Hugging Face Accelerate：協調 DeepSpeed 與 FSDP 精度
Hugging Face Accelerate 0.30.0 引入了對 PyTorch FSDP 的自動 upcasting，使其精度處理與 DeepSpeed 保持一致，從而在兩個後端之間無縫切換且不會失去收斂性。
Stable Diffusion 3 Medium 與 Diffusers 的整合
Hugging Face 已將 Stable Diffusion 3 Medium（2B 參數）整合至 Diffusers 函式庫，並引入多模態擴散變換器（MMDiT）與校正流匹配，以提升文字到影像的合成效果。