Idefics2 8B 視覺語言模型發布 – 架構、資料與效能
Hugging Face 發布了 Idefics2，一款 8 億參數的開源視覺語言模型，在 VQA 與 OCR 基準測試上優於其他 8B 模型，且可透過 🤗 Transformers 直接進行微調。
OpenAI 日本啟動與 GPT-4 日文客製模型
OpenAI 在東京開設了首個亞洲辦公室，並推出了針對日語優化的 GPT-4 客製模型，其速度最高可比 GPT-4 Turbo 快 3 倍。
視覺語言模型說明
Hugging Face 提供了一份關於視覺語言模型（VLM）的完整指南，詳細說明了它們的架構、開源選項、評估基準，以及透過 TRL 函式庫進行微調的全新實驗性支援。
Hugging Face 與 Google Cloud Vertex AI Model Garden 整合
Hugging Face 推出了「Deploy on Google Cloud」，使用者可透過 Hugging Face Hub 或 Vertex Model Garden，將數千個開源基礎模型部署至 Vertex AI 或 Google Kubernetes Engine（GKE）。
CodeGemma 發行說明 / 新功能
Google 已發布 CodeGemma，這是一個基於 Gemma、開放存取、專注於程式碼的 LLM 系列，於額外 5000 億個程式碼、數學與英語語料的 token 上進行訓練。
Hugging Face 公共政策計畫概覽與提交的資料
Hugging Face 宣布了一項全面的跨功能公共政策計畫，為美國、歐盟與英國的政策制定者提供詳細的立場文件、證詞與意見信，彰顯其負責任開放的承諾並塑造 AI 法規。
Klarna AI 助理整合與績效結果
Klarna 部署了由 OpenAI 驅動的 AI 助理，處理了其三分之二的客服聊天，完成相當於 700 名全職客服人員的工作，同時提升了解決時間與利潤。
Hugging Face 與 Wiz 研究合作夥伴關係：AI 安全
Hugging Face 與 Wiz 合作，整合先進的漏洞管理與雲端安全姿態管理，以保護其平台及更廣泛的 AI/ML 生態系統。
Text2SQL 與 Hugging Face Dataset Viewer API 以及 DuckDB-NSQL-7B
Hugging Face 示範了如何使用 DuckDB-NSQL-7B 模型與 Dataset Viewer API，將自然語言問題轉換為 SQL 查詢，以分析超過 120,000 個開放資料集。
OpenAI 微調 API 改進與自訂模型計畫擴展
OpenAI 為其微調 API 引入了新的控制功能，並擴大了自訂模型計畫，加入協助微調與完全自訂訓練模型，以滿足特定領域的需求。
使用 🤗 Optimum Intel 在 Xeon 上加速 SetFit 推論
Hugging Face 示範了如何透過 🤗 Optimum Intel 函式庫的後訓練靜態量化，在 Intel Xeon CPU 上將 SetFit 模型的推論吞吐量提升至最高 7.8 倍。
Qwen1.5-32B 發布說明 / 有什麼新功能
Qwen 已發布 Qwen1.5-32B 與 Qwen1.5-32B-Chat，這兩款模型旨在在相較於 72B 版本的情況下，兼顧高效能與較低的記憶體與推論成本。
Hugging Face 與 Cloudflare Workers AI 整合
Hugging Face 整合 Cloudflare Workers AI，為受歡迎的開源模型提供無伺服器 GPU 推論，讓開發者能以按請求付費的計價模式部署 AI 應用。
OpenAI 與 Harvey 合作開發自訂案例法模型
OpenAI 與 Harvey 合作打造了一個自訂訓練的案例法模型，該模型納入了 100 億個美國案例法的 token，以提升推理能力並減少法律專業任務中的幻覺現象。
ChatGPT 存取更新：免註冊即時使用
OpenAI 已啟用即時使用 ChatGPT 的功能，無需註冊帳戶，擴大了 AI 對全球受眾的可及性。
Oscar Health AI 實施：降低成本與提升護理
Oscar Health 使用 OpenAI 的 API 自動化臨床文件與理賠處理，將文件時間減少 40%，升級解決時間減少 50%。
OpenAI 語音引擎：合成語音功能與安全框架
OpenAI 已預覽語音引擎，這是一個能夠僅用單一 15 秒音訊樣本創造逼真且具情感的合成語音的模型，同時採取謹慎的部署策略以減少濫用風險。
Qwen1.5-MoE-A2.7B 版本說明
Qwen 推出 Qwen1.5-MoE-A2.7B，一款混合專家模型，其效能與 7B 密集模型相當，但僅使用 27 億個啟用參數。
OpenAI Zelma：透過 GPT-4 讓教育資料更易取得
Zelma 是一款以 GPT-4 為動力的研究助理，旨在透過自然語言查詢，讓家長、教師與政策制定者能取得美國 3 至 8 年級的標準化測驗資料。
OpenAI Sora 首次印象來自創意專業人士
OpenAI 分享了視覺藝術家與電影製作者的早期回饋，他們使用 Sora 來原型化概念、創作超現實視覺，並從創作流程中移除技術與預算限制。
Pollen-Vision：機器人零樣本視覺模型的統一介面
Hugging Face 與 Pollen Robotics 團隊已發布 pollen-vision，這是一個整合零樣本視覺模型的開源庫，使機器人能夠在三維空間中偵測並定位未知物體。
Hugging Face Transformers：開源機器學習新手指南
Hugging Face 提供了完整的入門指南，說明如何使用 Transformers 函式庫與 Hub 部署與執行開源機器學習模型，例如 Microsoft 的 Phi-2。
嵌入量化：二元與標量技術實現更快、更便宜的檢索
Hugging Face 宣布了二元與 int8 嵌入量化，將記憶體使用量分別降低 32 倍或 4 倍，檢索速度提升至最高 45 倍，同時保留 96%–99% 的原始效能。
JetBrains AI Assistant 與 OpenAI API 的整合
JetBrains 將 OpenAI 的 API 整合至其 AI Assistant，以自動化瑣碎的程式編寫任務，導致 77% 的開發者報告生產力提升。
Hugging Face 與 Lighthouz AI 推出 Chatbot Guardrails Arena
Hugging Face 與 Lighthouz AI 已推出 Chatbot Guardrails Arena，這是一個社群驅動的壓力測試平台，旨在評估 LLM 及其防護欄位的資料隱私與安全性。
GaLore：在消費級硬體上推進大型模型訓練
GaLore 透過低秩梯度投影，將優化器狀態的記憶體需求降低超過 82.5%，從而使在消費級 GPU 上訓練十億參數模型成為可能。
Cosmopedia：大規模合成資料用於 LLM 預訓練
Hugging Face 推出 Cosmopedia，這是目前最大的開放式合成資料集，用於 LLM 預訓練，包含 3000 萬個檔案與 250 億個由 Mixtral-8x7B-Instruct-v0.1 產生的 token。
Phi-2 在 Intel Meteor Lake 上：本地 LLM 推論
Hugging Face 示範了如何在 Intel Meteor Lake（Core Ultra）處理器上，透過 OpenVINO 與 Optimum Intel 使用 4 位元量化，在本地執行 Microsoft Phi-2 模型。
Holiday Extras ChatGPT Enterprise 實施
Holiday Extras 在全公司部署了 ChatGPT Enterprise，每週節省超過 500 小時，估計年節省金額達 50 萬美元。
OpenAI 與 Salesforce 整合以實現企業信任與安全
OpenAI 為 Salesforce Einstein AI 平台提供基礎的生成式 AI 模型，實現跨 Sales、Service 與 Commerce Cloud 的安全、企業級 AI 能力。
Superhuman AI 與 OpenAI API 的整合
Superhuman 已整合 OpenAI 的 API，推出一套 AI 驅動的電子郵件功能，將使用者的收件匣處理速度提升兩倍。
Quanto：用於 Optimum 的 PyTorch 量化後端
Hugging Face 推出 Quanto，一個多功能且設備無關的 PyTorch 量化後端，適用於 Optimum，旨在簡化跨任何模態的低精度模型部署。
Hugging Face 在 DGX Cloud 上的訓練
Hugging Face 推出 Train on DGX Cloud，一項無需編碼的服務，讓 Enterprise Hub 組織能使用 NVIDIA H100 與 L40S GPU 微調開源模型。
WebSight 資料集與 Sightseer 模型
Hugging Face 推出了 WebSight，一個包含 200 萬筆螢幕截圖至 HTML 配對的合成資料集，以及 Sightseer，一個能將網頁螢幕截圖轉換為功能性 HTML 程式碼的視覺語言模型。
使用 Optimum Intel 與 fastRAG 的 CPU 優化嵌入
Hugging Face 與 Intel 推出了一種在 Xeon CPU 上加速嵌入模型的方法，使用 Optimum Intel 與 fastRAG，透過 int8 量化可實現最高 4.5 倍的延遲縮減與 4 倍的吞吐量提升。
OpenAI 與 Le Monde 及 Prisa Media 的全球新聞合作夥伴關係
OpenAI 與 Le Monde 及 Prisa Media 合作，將其新聞內容整合至 ChatGPT，為使用者提供帶有來源標示的摘要以及指向原始文章的直接連結。
Healthify 與 OpenAI 合作的 AI 健康教練計畫
Healthify 已整合 OpenAI 的 GPT-4 Vision、GPT-4 Turbo 與 Embeddings 模型，以擴展個人化營養與健身教練服務，並使食物追蹤參與度提升了 50%。
OpenAI 治理審查與領導層確認
OpenAI 已完成 WilmerHale 的獨立審查，確認對 Sam Altman 與 Greg Brockman 的領導層全力信任，並實施重大治理改革。
OpenAI 董事會擴編
OpenAI 任命 Dr. Sue Desmond-Hellmann、Nicole Seligman 與 Fidji Simo 加入董事會，同時執行長 Sam Altman 重新回到董事會。
Lifespan 醫療系統使用 GPT-4 提升患者健康素養
Lifespan 為羅德島最大的醫療系統，已部署 GPT-4，將複雜的手術同意書從大學閱讀水平簡化至中學水平，以提升患者的理解與福祉。
Match Group 採用 ChatGPT Enterprise 以提升生產力與產品開發
Match Group 已將 ChatGPT Enterprise 部署給數千名員工，以提升跨功能協作、工程效率與產品可用性測試，同時利用 OpenAI 的 API 於面向客戶的功能。
Paradigm 整合 GPT-4 加速臨床試驗患者匹配
Paradigm 使用 OpenAI 的 GPT-4 API 自動化評估醫療記錄以判斷臨床試驗資格，將準確率提升 10%，並能在每分鐘篩選數百名患者。
OpenAI 與 Elon Musk：合作與使命說明
OpenAI 發布聲明，說明其與 Elon Musk 的歷史關係、為資助 AGI 開發而轉為營利模式的必要性，以及其對廣泛受益的承諾。
ConTextual: 評估富文本場景中的多模態推理能力
Hugging Face 與 UCLA 研究人員推出了 ConTextual，這是一個旨在評估大型多模態模型 (LMMs) 如何在複雜且富文本的圖像中，對文本與視覺線索進行聯合推理的數據集與排行榜。
Hugging Face 與 Argilla 讓社群共同構建資料集
Hugging Face 與 Argilla 推出了一個精簡的工作流程，結合 Hugging Face Spaces 與 Argilla，讓社群能共同構建高品質的開源資料集。
Intel Gaudi 2 AI 加速器上的文字生成管線
Hugging Face 為 Intel Gaudi 2 AI 加速器推出自訂文字生成管線，透過 Optimum Habana 簡化 Llama 2 模型（7b、13b 與 70b）的部署。
StarCoder2 與 The Stack v2 發布
BigCode 已發布 StarCoder2，這是一個透明訓練的開源程式碼大型語言模型家族，提供 3B、7B 與 15B 參數規模，並以全新的大型 Stack v2 資料集為基礎。
Hugging Face TTS Arena：文本轉語音模型基準測試
Hugging Face 推出了 TTS Arena，一個群眾外包的並排比較工具與排行榜，使用 Elo 評分系統客觀衡量文本轉語音模型的品質。
AI 水印 101：工具與技術
Hugging Face 提供了關於圖像、文字與音訊的 AI 水印技術的完整概述，以對抗深偽並確保內容來源。
Matryoshka 嵌入模型簡介
Matryoshka 嵌入模型允許可變尺寸的嵌入向量，且可在不顯著影響效能的情況下截斷，從而在儲存空間、速度與準確度之間實現彈性取捨。