✷ 封存 · 11 個實驗室 · 3,060 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
Cosmopedia：大規模合成資料用於 LLM 預訓練
Hugging Face 推出 Cosmopedia，這是目前最大的開放式合成資料集，用於 LLM 預訓練，包含 3000 萬個檔案與 250 億個由 Mixtral-8x7B-Instruct-v0.1 產生的 token。
Phi-2 在 Intel Meteor Lake 上：本地 LLM 推論
Hugging Face 示範了如何在 Intel Meteor Lake（Core Ultra）處理器上，透過 OpenVINO 與 Optimum Intel 使用 4 位元量化，在本地執行 Microsoft Phi-2 模型。
Accenture, AWS, and Anthropic Collaboration for Enterprise AI Scaling
Anthropic、AWS 與 Accenture 已建立合作夥伴關係，旨在幫助組織（特別是受監管行業的組織）將生成式 AI 從概念推向生產階段，並專注於安全性、可靠性與數據隱私。
Claude 3 Models General Availability on Vertex AI
Anthropic 已在 Google Cloud 的 Vertex AI 平台上正式推出 Claude 3 Haiku 與 Claude 3 Sonnet，讓企業能夠以企業級安全性來擴展生成式 AI 解決方案。
Holiday Extras ChatGPT Enterprise 實施
Holiday Extras 在全公司部署了 ChatGPT Enterprise，每週節省超過 500 小時，估計年節省金額達 50 萬美元。
OpenAI 與 Salesforce 整合以實現企業信任與安全
OpenAI 為 Salesforce Einstein AI 平台提供基礎的生成式 AI 模型，實現跨 Sales、Service 與 Commerce Cloud 的安全、企業級 AI 能力。
Superhuman AI 與 OpenAI API 的整合
Superhuman 已整合 OpenAI 的 API，推出一套 AI 驅動的電子郵件功能，將使用者的收件匣處理速度提升兩倍。
Quanto：用於 Optimum 的 PyTorch 量化後端
Hugging Face 推出 Quanto，一個多功能且設備無關的 PyTorch 量化後端，適用於 Optimum，旨在簡化跨任何模態的低精度模型部署。
Hugging Face 在 DGX Cloud 上的訓練
Hugging Face 推出 Train on DGX Cloud，一項無需編碼的服務，讓 Enterprise Hub 組織能使用 NVIDIA H100 與 L40S GPU 微調開源模型。
xAI Grok-1 開源釋出
xAI 已在 Apache 2.0 授權條款下，釋出了 Grok-1 的基礎模型權重與網路架構，這是一個擁有 3140 億個參數的混合專家模型 (MoE)。
WebSight 資料集與 Sightseer 模型
Hugging Face 推出了 WebSight，一個包含 200 萬筆螢幕截圖至 HTML 配對的合成資料集，以及 Sightseer，一個能將網頁螢幕截圖轉換為功能性 HTML 程式碼的視覺語言模型。
使用 Optimum Intel 與 fastRAG 的 CPU 優化嵌入
Hugging Face 與 Intel 推出了一種在 Xeon CPU 上加速嵌入模型的方法，使用 Optimum Intel 與 fastRAG，透過 int8 量化可實現最高 4.5 倍的延遲縮減與 4 倍的吞吐量提升。
Ollama AMD 顯示卡支援預覽版
Ollama 在 Windows 與 Linux 上推出了 AMD 顯示卡預覽支援，為廣泛的 Radeon, Radeon PRO, 與 Instinct 系列顯卡提供硬eardware acceleration (硬體加速) 功能，使能所有 Ollama 功能在這些顯卡上運行。
OpenAI 與 Le Monde 及 Prisa Media 的全球新聞合作夥伴關係
OpenAI 與 Le Monde 及 Prisa Media 合作，將其新聞內容整合至 ChatGPT，為使用者提供帶有來源標示的摘要以及指向原始文章的直接連結。
Healthify 與 OpenAI 合作的 AI 健康教練計畫
Healthify 已整合 OpenAI 的 GPT-4 Vision、GPT-4 Turbo 與 Embeddings 模型，以擴展個人化營養與健身教練服務，並使食物追蹤參與度提升了 50%。
Claude 3 Haiku 發布說明
Anthropic 已推出 Claude 3 Haiku，這是一款高速且具成本效益的模型，專為企業應用設計，具備領先的視覺能力與高 Token 處理速度。
OpenAI 治理審查與領導層確認
OpenAI 已完成 WilmerHale 的獨立審查，確認對 Sam Altman 與 Greg Brockman 的領導層全力信任，並實施重大治理改革。
OpenAI 董事會擴編
OpenAI 任命 Dr. Sue Desmond-Hellmann、Nicole Seligman 與 Fidji Simo 加入董事會，同時執行長 Sam Altman 重新回到董事會。
Anthropic "Reflections on Qualitative Research" – Why Interpretability Needs a Qualitative Lens
Anthropic 的「Reflections on Qualitative Research」主張，AI 模型的可解釋性研究應優先考慮定性方法，並為判斷此類研究提供了啟發式方法。
Lifespan 醫療系統使用 GPT-4 提升患者健康素養
Lifespan 為羅德島最大的醫療系統，已部署 GPT-4，將複雜的手術同意書從大學閱讀水平簡化至中學水平，以提升患者的理解與福祉。
Match Group 採用 ChatGPT Enterprise 以提升生產力與產品開發
Match Group 已將 ChatGPT Enterprise 部署給數千名員工，以提升跨功能協作、工程效率與產品可用性測試，同時利用 OpenAI 的 API 於面向客戶的功能。
Paradigm 整合 GPT-4 加速臨床試驗患者匹配
Paradigm 使用 OpenAI 的 GPT-4 API 自動化評估醫療記錄以判斷臨床試驗資格，將準確率提升 10%，並能在每分鐘篩選數百名患者。
OpenAI 與 Elon Musk：合作與使命說明
OpenAI 發布聲明，說明其與 Elon Musk 的歷史關係、為資助 AGI 開發而轉為營利模式的必要性，以及其對廣泛受益的承諾。
ConTextual: 評估富文本場景中的多模態推理能力
Hugging Face 與 UCLA 研究人員推出了 ConTextual，這是一個旨在評估大型多模態模型 (LMMs) 如何在複雜且富文本的圖像中，對文本與視覺線索進行聯合推理的數據集與排行榜。
Hugging Face 與 Argilla 讓社群共同構建資料集
Hugging Face 與 Argilla 推出了一個精簡的工作流程，結合 Hugging Face Spaces 與 Argilla，讓社群能共同構建高品質的開源資料集。
Claude 3 模型系列發布
Anthropic 已發布 Claude 3 模型系列，包含 Opus、Sonnet 與 Haiku，這些模型引入了先進的視覺能力、提升的準確度，並在認知任務中建立了新的產業基準。
Intel Gaudi 2 AI 加速器上的文字生成管線
Hugging Face 為 Intel Gaudi 2 AI 加速器推出自訂文字生成管線，透過 Optimum Habana 簡化 Llama 2 模型（7b、13b 與 70b）的部署。
Anthropic 提升業務績效的提示工程指南
Anthropic 概述了關鍵的提示工程技術——包括逐步推理、few-shot prompting 與 prompt chaining——以提高 Claude 在業務應用中的準確性、一致性與成本效益。
StarCoder2 與 The Stack v2 發布
BigCode 已發布 StarCoder2，這是一個透明訓練的開源程式碼大型語言模型家族，提供 3B、7B 與 15B 參數規模，並以全新的大型 Stack v2 資料集為基礎。
Hugging Face TTS Arena：文本轉語音模型基準測試
Hugging Face 推出了 TTS Arena，一個群眾外包的並排比較工具與排行榜，使用 Elo 評分系統客觀衡量文本轉語音模型的品質。
Mistral AI Le Chat 發佈
Mistral AI 已發佈 Le Chat，這是一款多語言對話助手，旨在為個人用戶和企業環境展示 Mistral 模型的實力。
Mistral Large 與 Mistral Small 發佈
Mistral AI 已發佈 Mistral Large，這是一款具有頂尖推理與多語言能力的旗艦模型，以及 Mistral Small，這是一款針對低延遲工作負載進行優化的模型。
AI 水印 101：工具與技術
Hugging Face 提供了關於圖像、文字與音訊的 AI 水印技術的完整概述，以對抗深偽並確保內容來源。
Matryoshka 嵌入模型簡介
Matryoshka 嵌入模型允許可變尺寸的嵌入向量，且可在不顯著影響效能的情況下截斷，從而在儲存空間、速度與準確度之間實現彈性取捨。
在 Hugging Face 上微調 Gemma 模型
Hugging Face 提供了一份指南，說明如何使用參數效率微調 (PEFT) 與低秩適應 (LoRA) 在 GPU 與雲端 TPU 上客製化 Google 的 Gemma 模型。
Hugging Face 與 Haize Labs 推出紅隊抗性排行榜
Hugging Face 與 Haize Labs 已推出紅隊抗性（RTR）基準，用於評估大型語言模型在針對特定安全違規類別的高品質、人類式對抗性提示下的韌性。
Google Gemma 開放式大型語言模型發布
Google 已發布 Gemma，這是一個基於 Gemini 的開放存取大型語言模型系列，提供 2B 與 7B 參數規模的基礎與指令微調變體。
Open Ko-LLM Leaderboard
Hugging Face 和 Upstage 推出了 Open Ko-LLM Leaderboard，透過使用私有測試集來防止污染，為韓語大型語言模型提供一個公平、透明的評估生態系統。
Hugging Face PEFT 新 LoRA 合併方法
Hugging Face 為 PEFT 函式庫引入了多種新合併方法，使用戶能即時結合同一基礎模型的多個 LoRA 適配器，以合成新的功能。
使用開源 LLM 產生合成資料降低自訂模型的成本、延遲與碳排放
Hugging Face 展示了使用開源 LLM 產生合成資料並微調小型 RoBERTa 模型，將推論成本從 $3061 降至 $2.7，延遲從數秒降至 0.13 秒，CO₂ 排放從約 1 t 降至 0.12 kg，同時在金融情緒分類上匹配 GPT‑4 的準確率。
Anthropic 2024 年選舉誠信策略
Anthropic 已實施一套包含嚴格使用政策、對抗性紅隊測試以及權威重新導向的三管齊下策略，以防止 Claude 在 2024 年全球選舉期間被誤用。
OpenAI Sora：視訊生成模型作為世界模擬器
OpenAI 推出了 Sora，一種能夠生成長達一分鐘高保真視訊的 diffusion transformer 模型，暗示擴大視訊生成規模是走向通用物理世界模擬器的道路。
Ollama Windows 預覽版本
Ollama 已推出 Windows 預覽版本，讓使用者能以原生 GPU 加速與 API 存取，在本地執行、拉取和建立大型語言模型。
OpenAI 使用 AI 破壞國家屬性威脅行動者
OpenAI 與 Microsoft Threat Intelligence 合作，終止了五名來自中國、伊朗、北韓和俄羅斯的國家屬性威脅行動者的帳戶，這些行動者使用 AI 執行有限的網路安全任務。
AMD 全域 AI 開發者競賽
AMD 與 Hugging Face 合作推出全域 AI 開發者競賽，提供開發者免費使用 AMD 硬體以及現金獎勵，以在生成式 AI、機器人 AI 與 PC AI 領域打造 AI 應用程式。
ChatGPT 記憶功能與新使用者控制
OpenAI 為 ChatGPT 推出了記憶功能，使模型能在對話間記住細節，提供更個人化的回應，無需重複提供資訊。
Hugging Face TGI 訊息 API 發佈
Hugging Face 已在版本 1.4.0 起推出了用於文字生成推論（TGI）的訊息 API，使開放式 LLM 能相容 OpenAI Chat Completion API。
Ollama OpenAI 相容性更新
Ollama 引入了與 OpenAI Chat Completions API 的內建相容性，讓使用者能夠使用現有的 OpenAI 相容工具與函式庫來運行本地模型。
Qwen1.5 發行說明 / 新功能
Qwen 已發布 Qwen1.5，這是一系列開源的基礎與聊天模型，參數規模從 0.5B 到 110B 不等，具備提升的人類對齊、多語言能力，以及原生的 Hugging Face transformers 整合。
SegMoE：Segmind 擴散專家混合模型
SegMoE 是一個框架，透過將 Stable Diffusion 架構中的前饋層替換為稀疏 MoE 層，以建立 Mixture-of-Experts（MoE）擴散模型，從而提升提示詞的理解能力。