OpenAI 與大都會藝術博物館合作：喚醒沉睡的美人
OpenAI 與大都會藝術博物館服裝學院合作，打造了一個 AI 驅動的聊天體驗，讓參觀者能夠與歷史人物 Natalie Potter 互動，該體驗基於精選的歷史資料集。
Hugging Face Infini-Attention 再現分析
Hugging Face 嘗試再現 Infini-Attention 的結果顯示，雖然門控收斂可以得到改善，但隨著記憶壓縮程度提升，方法的效能會下降，且仍不如 Ring Attention、YaRN 或 RoPE scaling 可靠。
OpenAI SWE-bench Verified 發布：人工驗證的基準提升軟體工程評估
OpenAI 發布了 SWE‑bench Verified，這是一個經過人工驗證的 500 個樣本子集，取自 SWE‑bench 軟體工程基準，去除了模糊的問題與不公平的測試，使得 AI 模型的程式編寫能力評估更為可靠；GPT‑4o 解決了其中 33.2% 的樣本，分數是原始基準的兩倍以上。
ggml 簡介
ggml 是一個輕量級的 C/C++ 機器學習函式庫，針對 Transformer 推論與多種硬體後端的裝置端大型語言模型執行進行了最佳化。
Hugging Face 統一工具使用 API
Hugging Face 推出了一個統一的工具使用 API，讓開發者能夠使用相同的程式碼在 Mistral、Cohere、NousResearch 與 Llama 模型上實作工具呼叫。
Falcon Mamba 7B 版本說明
科技創新研究院（TII）發布了 Falcon Mamba 7B，這是首個大規模純粹的狀態空間語言模型（SSLM），在效能上與最先進的 Transformer 模型相當，同時消除了基於注意力的記憶體擴展問題。
Qwen2-Audio 發布說明
Qwen2-Audio 是一款音頻語言模型，能夠進行語音聊天與音頻分析，支援超過八種語言與方言，並在多項基準測試上超越先前的最先進表現。
Zico Kolter 加入 OpenAI 董事會
OpenAI 任命 Carnegie Mellon 大學機器學習系主任兼教授 Zico Kolter 加入其董事會及安全與安保委員會。
Hugging Face 收購 XetHub 以升級 Hub 儲存與協作
Hugging Face 收購 XetHub，以取代 Git LFS，使用更高效的儲存後端，實現增量更新、千兆參數模型支援，並提升對大規模 AI 資料集的協作效能。
GPT‑4o 系統卡 – 功能、 安全緩解措施與風險評估
OpenAI 發布了 GPT‑4o 系統卡，詳細說明了全能模型的功能、安全緩解措施，以及中等的整體風險評級。
Qwen2-Math 發布說明
Qwen 已發布 Qwen2-Math，一系列專門的數學大型語言模型（1.5B、7B 與 72B），在數學基準測試中超越多個封閉源模型，包括 GPT-4o。
Rakuten 與 OpenAI 合作夥伴關係：利用生成式 AI 獲取客戶洞見
Rakuten 正在利用 OpenAI 的 API、RAG 與 Code Interpreter，將非結構化資料轉換為自動化客服、評論摘要以及 B2B 市場洞見。
OpenAI 結構化輸出 API 功能公告
OpenAI 於 2024 年 8 月 6 日推出了結構化輸出，這是一項新的 API 功能，可保證模型回應完全符合開發者提供的 JSON Schema，提升資料導向應用的可靠性。
Hugging Face TextImage Augmentation 管線發布
Hugging Face 與 Albumentations AI 推出了 TextImage Augmentation 管線，該管線同步修改文件圖像及其文字，實現真實的合成資料生成，並在有限的文件資料集上對視覺‑語言模型進行穩健的微調。
Hugging Face 2024 安全功能亮點
Hugging Face 詳細說明了 2024 年的安全全景，為所有使用者推出一套預設防護，並為 Enterprise Hub 使用者提供進階治理控制。
Google 發布 Gemma 2 2B、ShieldGemma 與 Gemma Scope
Google 發布了 Gemma 2 2B、ShieldGemma 安全分類器以及 Gemma Scope 稀疏自編碼器，擴展了開源大型語言模型的功能、審核工具與可解釋性資源。
Quanto 量化減少 Transformer 擴散管線的記憶體使用
Hugging Face 的量化工具（Quanto）將 Transformer 擴散模型的 GPU 記憶體需求從約 12 GB 降至約 5 GB，且僅帶來極小的延遲與品質影響。
Hugging Face NVIDIA NIM API（無伺服器）發布與停用
Hugging Face 為 Enterprise Hub 用戶推出了 NVIDIA NIM API（無伺服器），提供即付即用、無伺服器的開源大型語言模型（LLM）推論服務，透過 OpenAI 相容的 API 在 NVIDIA DGX Cloud H100 GPU 上執行。
LAVE：使用 LLM 在 Docmatix 上的零樣本 VQA 評估
Hugging Face 推出 LAVE（LLM 輔助 VQA 評估），以解決傳統 VQA 指標的僵硬問題，並在 Docmatix 資料集上評估零樣本表現時，展示出 50% 的準確率提升。
OpenAI SearchGPT 原型公告
OpenAI 推出了 SearchGPT，一個結合 AI 模型與即時網路資訊的臨時原型，提供帶有清晰來源引用的直接答案。
OpenAI 基於規則的獎勵（RBR）模型安全
OpenAI 推出了基於規則的獎勵（RBR），這是一種使用明確、逐步規則來對齊 AI 安全行為的方法，無需大量的人類資料收集。
Llama 3.1 版本說明：多語言支援、長上下文與 405B 模型
Meta 已發布 Llama 3.1，提供 8B、70B 與 405B 大小的模型，具備 128K 上下文長度、支援 8 種語言的多語言功能，且採用寬鬆授權允許合成資料生成。
在 Core ML 上執行 Mistral 7B
Hugging Face 示範了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能執行 Mistral 7B，並透過 4 位元區塊式量化將模型大小縮減至低於 4GB。
GPT-4o mini 發布說明 / 有什麼新功能
OpenAI 已發布 GPT-4o mini，一款高度成本效益的小型模型，在關鍵推理與多模態基準測試中超越 GPT-3.5 Turbo 及其他小型模型。
Docmatix 資料集發布
Hugging Face 已發布 Docmatix，一個文件視覺問答（DocVQA）資料集，包含 240 萬張影像與 950 萬組問答對，規模較先前資料集提升了 240 倍。
TGI Multi-LoRA：一次部署，服務 30 個模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服務，使組織能夠部署單一基礎模型，並動態提供數十個專門微調的適配器，以降低成本和營運複雜度。
ChatGPT Enterprise 合規與管理工具更新
OpenAI 推出了合規 API、用於自動化使用者管理的 SCIM，以及細緻的 GPT 控制功能，協助企業客戶符合監管要求，安全擴展 AI 部署。
OpenAI 證明者‑驗證者遊戲提升語言模型輸出的可讀性
OpenAI 宣布了一種證明者‑驗證者遊戲的訓練方法，使強大的語言模型能產生較弱模型可驗證的解答，從而提升正確性與人類可讀性。
Argilla SDK 聊天機器人（使用 distilabel）– 端對端教學
Hugging Face 發布了一篇教學，說明如何使用 distilabel 產生的合成資料、微調的嵌入、lancedb 向量儲存，以及部署於 Spaces 的 Gradio 應用，打造 Argilla 2.0 聊天機器人。
SmolLM 發布：高效能小型語言模型
Hugging Face 介紹 SmolLM，一個由最先進的小型語言模型（135M、360M 與 1.7B 參數）組成的系列，這些模型在精心策劃的高品質資料集上進行訓練。
NuminaMath 7B TIR 榮獲 AIMO 進步獎 – 技術回顧
NuminaMath 7B TIR 透過解答 50 個隱藏數學問題中的 29 題，贏得了首屆 AIMO 進步獎，展示了兩階段微調方案、大規模高品質數學數據以及結合工具整合推理的自我一致性推理策略的威力。
OpenAI 與洛斯阿拉莫斯國家實驗室生物科學研究合作夥伴關係
OpenAI 與洛斯阿拉莫斯國家實驗室合作，評估類似 GPT-4o 的多模態前沿 AI 模型如何在實驗室實體環境中安全協助科學家，推動生物科學研究的進展。
Hugging Face PII 偵測實驗與 Presidio
Hugging Face 正在嘗試將 Microsoft Presidio 整合至 Dataset Hub，以提供自動化的 PII 偵測報告，協助實務者辨識並降低機器學習資料集中的隱私風險。
TRL 為視覺語言模型新增 Direct Preference Optimization 支援
Hugging Face 在 TRL 函式庫中為視覺語言模型新增了 Direct Preference Optimization (DPO) 支援，讓開發者能透過 bfloat16 量化與 LoRA 技術，在單個 GPU 上使用偏好數據對 Idefics-2 等模型進行微調。
Hugging Face 與 KerasHub 整合
Hugging Face 與 KerasHub 現在共享模型保存格式，讓 KerasHub 使用者能直接載入來自 Hugging Face Hub 超過 30 萬個 Transformers 庫模型。
Google Cloud TPU 在 Hugging Face 推理端點與 Spaces 上的應用
Hugging Face 已將 Google Cloud TPU v5e 支援整合至 Inference Endpoints 與 Spaces，讓使用者能以具成本效益且高效能的硬體部署與擴展 AI 模型。
Banque des Territoires、Polyconseil 與 Hugging Face 部署主權 RAG 解決方案以支援 EduRénov 計畫
Hugging Face、Polyconseil 與 Banque des Territoires 推出了一套主權、開源的 RAG 系統，以自動化法國 EduRénov 校園翻新計畫的電子郵件支援，確保資料居留，同時在公共政策領域擴展生成式 AI 的規模。
Hugging Face Dataset Hub 搜尋功能更新
Hugging Face 已推出四個新的搜尋過濾器——模態、大小、格式和程式庫相容性——以提升 Dataset Hub 上超過 180,000 個公開資料集的可發現性。
在 Intel Gaudi 2 上加速蛋白質語言模型 ProtST
Intel 與 MILA 已針對 Intel Gaudi 2 加速器優化了 ProtST 多模態蛋白質語言模型，實現了相較於 NVIDIA A100 GPU 高達 2.92 倍的微調加速。
Hugging Face Transformers 代碼代理 GAIA 基準測試結果
Hugging Face 使用基於 transformers.agents 庫構建的代碼代理，在 GAIA 基準測試中取得了最高排名，證明了代碼式行動比基於 JSON 的工具調用更高效且更有效。
使用 GPT-4 找出 GPT-4 的錯誤
OpenAI 推出 CriticGPT，一個基於 GPT-4 的模型，旨在識別 ChatGPT 程式碼輸出中的錯誤，以協助人類訓練師在 RLHF 過程中工作。
OpenAI 與 TIME 戰略內容合作夥伴關係
OpenAI 與 TIME 已簽訂多年期的戰略合作夥伴關係，將 TIME 百年新聞檔案整合至 OpenAI 產品，並為 TIME 提供 OpenAI 技術以開發產品。
Google Gemma 2 版本說明
Google 已發布 Gemma 2，這是一個開放權重的大型語言模型（LLM）家族，提供 9B 與 27B 參數規模，具備蒸餾與注意力機制等技術創新以提升效能。
XLSCOUT ParaEmbed 2.0 發布
XLSCOUT 已發布 ParaEmbed 2.0，這是一個在專家策劃的專利資料上微調的專有嵌入模型，較 ParaEmbed 1.0 提升了 23% 的準確度。
Hugging Face 倫理與社會通訊 #6：資料品質的重要性
Hugging Face 概述了一套全面且負責任的資料品質方法，強調高品質資料必須符合其預期用途，以確保 AI 模型效能、公平性以及科學可重現性。
微調微軟 Florence-2 於 DocVQA
Hugging Face 示範了如何在 DocVQA 資料集上微調微軟的 Florence-2 視覺語言模型，於七個 epoch 後將驗證相似度從 0 提升至 57.0。
OpenAI 收購 Rockset 以實時資料檢索
OpenAI 已收購即時分析資料庫 Rockset，將其高效能的索引與查詢功能整合至 OpenAI 的檢索基礎設施中。
OpenAI 網路安全補助計畫：支援 AI 驅動的防禦研究
OpenAI 強調了其網路安全補助計畫中的多個專案，旨在提升 LLM 的可信度、自動化漏洞偵測，以及開發自主的網路防禦代理人。
OpenAI 一致性模型：快速單步生成式 AI
OpenAI 已推出一致性模型，這是一系列新的生成模型，能透過直接將噪聲映射到數據來實現高品質、單步生成，克服了擴散模型緩慢的迭代取樣過程。
OpenAI 全面式不當內容偵測方法
OpenAI 推出了一套全面式框架，用於構建強韌的自然語言分類系統，以偵測包括性內容、暴力與騷擾在內的不當內容，且表現優於即用模型。