OpenAI 語音引擎:合成語音功能與安全框架
OpenAI 已預覽語音引擎,這是一個能夠僅用單一 15 秒音訊樣本創造逼真且具情感的合成語音的模型,同時採取謹慎的部署策略以減少濫用風險。
Qwen1.5-MoE-A2.7B 版本說明
Qwen 推出 Qwen1.5-MoE-A2.7B,一款混合專家模型,其效能與 7B 密集模型相當,但僅使用 27 億個啟用參數。
OpenAI Zelma:透過 GPT-4 讓教育資料更易取得
Zelma 是一款以 GPT-4 為動力的研究助理,旨在透過自然語言查詢,讓家長、教師與政策制定者能取得美國 3 至 8 年級的標準化測驗資料。
OpenAI Sora 首次印象來自創意專業人士
OpenAI 分享了視覺藝術家與電影製作者的早期回饋,他們使用 Sora 來原型化概念、創作超現實視覺,並從創作流程中移除技術與預算限制。
Pollen-Vision:機器人零樣本視覺模型的統一介面
Hugging Face 與 Pollen Robotics 團隊已發布 pollen-vision,這是一個整合零樣本視覺模型的開源庫,使機器人能夠在三維空間中偵測並定位未知物體。
Hugging Face Transformers:開源機器學習新手指南
Hugging Face 提供了完整的入門指南,說明如何使用 Transformers 函式庫與 Hub 部署與執行開源機器學習模型,例如 Microsoft 的 Phi-2。
嵌入量化:二元與標量技術實現更快、更便宜的檢索
Hugging Face 宣布了二元與 int8 嵌入量化,將記憶體使用量分別降低 32 倍或 4 倍,檢索速度提升至最高 45 倍,同時保留 96%–99% 的原始效能。
JetBrains AI Assistant 與 OpenAI API 的整合
JetBrains 將 OpenAI 的 API 整合至其 AI Assistant,以自動化瑣碎的程式編寫任務,導致 77% 的開發者報告生產力提升。
Hugging Face 與 Lighthouz AI 推出 Chatbot Guardrails Arena
Hugging Face 與 Lighthouz AI 已推出 Chatbot Guardrails Arena,這是一個社群驅動的壓力測試平台,旨在評估 LLM 及其防護欄位的資料隱私與安全性。
GaLore:在消費級硬體上推進大型模型訓練
GaLore 透過低秩梯度投影,將優化器狀態的記憶體需求降低超過 82.5%,從而使在消費級 GPU 上訓練十億參數模型成為可能。
Cosmopedia:大規模合成資料用於 LLM 預訓練
Hugging Face 推出 Cosmopedia,這是目前最大的開放式合成資料集,用於 LLM 預訓練,包含 3000 萬個檔案與 250 億個由 Mixtral-8x7B-Instruct-v0.1 產生的 token。
Phi-2 在 Intel Meteor Lake 上:本地 LLM 推論
Hugging Face 示範了如何在 Intel Meteor Lake(Core Ultra)處理器上,透過 OpenVINO 與 Optimum Intel 使用 4 位元量化,在本地執行 Microsoft Phi-2 模型。
Holiday Extras ChatGPT Enterprise 實施
Holiday Extras 在全公司部署了 ChatGPT Enterprise,每週節省超過 500 小時,估計年節省金額達 50 萬美元。
OpenAI 與 Salesforce 整合以實現企業信任與安全
OpenAI 為 Salesforce Einstein AI 平台提供基礎的生成式 AI 模型,實現跨 Sales、Service 與 Commerce Cloud 的安全、企業級 AI 能力。
Superhuman AI 與 OpenAI API 的整合
Superhuman 已整合 OpenAI 的 API,推出一套 AI 驅動的電子郵件功能,將使用者的收件匣處理速度提升兩倍。
Quanto:用於 Optimum 的 PyTorch 量化後端
Hugging Face 推出 Quanto,一個多功能且設備無關的 PyTorch 量化後端,適用於 Optimum,旨在簡化跨任何模態的低精度模型部署。
Hugging Face 在 DGX Cloud 上的訓練
Hugging Face 推出 Train on DGX Cloud,一項無需編碼的服務,讓 Enterprise Hub 組織能使用 NVIDIA H100 與 L40S GPU 微調開源模型。
WebSight 資料集與 Sightseer 模型
Hugging Face 推出了 WebSight,一個包含 200 萬筆螢幕截圖至 HTML 配對的合成資料集,以及 Sightseer,一個能將網頁螢幕截圖轉換為功能性 HTML 程式碼的視覺語言模型。
使用 Optimum Intel 與 fastRAG 的 CPU 優化嵌入
Hugging Face 與 Intel 推出了一種在 Xeon CPU 上加速嵌入模型的方法,使用 Optimum Intel 與 fastRAG,透過 int8 量化可實現最高 4.5 倍的延遲縮減與 4 倍的吞吐量提升。
OpenAI 與 Le Monde 及 Prisa Media 的全球新聞合作夥伴關係
OpenAI 與 Le Monde 及 Prisa Media 合作,將其新聞內容整合至 ChatGPT,為使用者提供帶有來源標示的摘要以及指向原始文章的直接連結。
Healthify 與 OpenAI 合作的 AI 健康教練計畫
Healthify 已整合 OpenAI 的 GPT-4 Vision、GPT-4 Turbo 與 Embeddings 模型,以擴展個人化營養與健身教練服務,並使食物追蹤參與度提升了 50%。
OpenAI 治理審查與領導層確認
OpenAI 已完成 WilmerHale 的獨立審查,確認對 Sam Altman 與 Greg Brockman 的領導層全力信任,並實施重大治理改革。
OpenAI 董事會擴編
OpenAI 任命 Dr. Sue Desmond-Hellmann、Nicole Seligman 與 Fidji Simo 加入董事會,同時執行長 Sam Altman 重新回到董事會。
Lifespan 醫療系統使用 GPT-4 提升患者健康素養
Lifespan 為羅德島最大的醫療系統,已部署 GPT-4,將複雜的手術同意書從大學閱讀水平簡化至中學水平,以提升患者的理解與福祉。
Match Group 採用 ChatGPT Enterprise 以提升生產力與產品開發
Match Group 已將 ChatGPT Enterprise 部署給數千名員工,以提升跨功能協作、工程效率與產品可用性測試,同時利用 OpenAI 的 API 於面向客戶的功能。
Paradigm 整合 GPT-4 加速臨床試驗患者匹配
Paradigm 使用 OpenAI 的 GPT-4 API 自動化評估醫療記錄以判斷臨床試驗資格,將準確率提升 10%,並能在每分鐘篩選數百名患者。
OpenAI 與 Elon Musk:合作與使命說明
OpenAI 發布聲明,說明其與 Elon Musk 的歷史關係、為資助 AGI 開發而轉為營利模式的必要性,以及其對廣泛受益的承諾。
ConTextual: 評估富文本場景中的多模態推理能力
Hugging Face 與 UCLA 研究人員推出了 ConTextual,這是一個旨在評估大型多模態模型 (LMMs) 如何在複雜且富文本的圖像中,對文本與視覺線索進行聯合推理的數據集與排行榜。
Hugging Face 與 Argilla 讓社群共同構建資料集
Hugging Face 與 Argilla 推出了一個精簡的工作流程,結合 Hugging Face Spaces 與 Argilla,讓社群能共同構建高品質的開源資料集。
Intel Gaudi 2 AI 加速器上的文字生成管線
Hugging Face 為 Intel Gaudi 2 AI 加速器推出自訂文字生成管線,透過 Optimum Habana 簡化 Llama 2 模型(7b、13b 與 70b)的部署。
StarCoder2 與 The Stack v2 發布
BigCode 已發布 StarCoder2,這是一個透明訓練的開源程式碼大型語言模型家族,提供 3B、7B 與 15B 參數規模,並以全新的大型 Stack v2 資料集為基礎。
Hugging Face TTS Arena:文本轉語音模型基準測試
Hugging Face 推出了 TTS Arena,一個群眾外包的並排比較工具與排行榜,使用 Elo 評分系統客觀衡量文本轉語音模型的品質。
AI 水印 101:工具與技術
Hugging Face 提供了關於圖像、文字與音訊的 AI 水印技術的完整概述,以對抗深偽並確保內容來源。
Matryoshka 嵌入模型簡介
Matryoshka 嵌入模型允許可變尺寸的嵌入向量,且可在不顯著影響效能的情況下截斷,從而在儲存空間、速度與準確度之間實現彈性取捨。
在 Hugging Face 上微調 Gemma 模型
Hugging Face 提供了一份指南,說明如何使用參數效率微調 (PEFT) 與低秩適應 (LoRA) 在 GPU 與雲端 TPU 上客製化 Google 的 Gemma 模型。
Hugging Face 與 Haize Labs 推出紅隊抗性排行榜
Hugging Face 與 Haize Labs 已推出紅隊抗性(RTR)基準,用於評估大型語言模型在針對特定安全違規類別的高品質、人類式對抗性提示下的韌性。
Google Gemma 開放式大型語言模型發布
Google 已發布 Gemma,這是一個基於 Gemini 的開放存取大型語言模型系列,提供 2B 與 7B 參數規模的基礎與指令微調變體。
Open Ko-LLM Leaderboard
Hugging Face 和 Upstage 推出了 Open Ko-LLM Leaderboard,透過使用私有測試集來防止污染,為韓語大型語言模型提供一個公平、透明的評估生態系統。
Hugging Face PEFT 新 LoRA 合併方法
Hugging Face 為 PEFT 函式庫引入了多種新合併方法,使用戶能即時結合同一基礎模型的多個 LoRA 適配器,以合成新的功能。
使用開源 LLM 產生合成資料降低自訂模型的成本、延遲與碳排放
Hugging Face 展示了使用開源 LLM 產生合成資料並微調小型 RoBERTa 模型,將推論成本從 $3061 降至 $2.7,延遲從數秒降至 0.13 秒,CO₂ 排放從約 1 t 降至 0.12 kg,同時在金融情緒分類上匹配 GPT‑4 的準確率。
OpenAI Sora:視訊生成模型作為世界模擬器
OpenAI 推出了 Sora,一種能夠生成長達一分鐘高保真視訊的 diffusion transformer 模型,暗示擴大視訊生成規模是走向通用物理世界模擬器的道路。
OpenAI 使用 AI 破壞國家屬性威脅行動者
OpenAI 與 Microsoft Threat Intelligence 合作,終止了五名來自中國、伊朗、北韓和俄羅斯的國家屬性威脅行動者的帳戶,這些行動者使用 AI 執行有限的網路安全任務。
AMD 全域 AI 開發者競賽
AMD 與 Hugging Face 合作推出全域 AI 開發者競賽,提供開發者免費使用 AMD 硬體以及現金獎勵,以在生成式 AI、機器人 AI 與 PC AI 領域打造 AI 應用程式。
ChatGPT 記憶功能與新使用者控制
OpenAI 為 ChatGPT 推出了記憶功能,使模型能在對話間記住細節,提供更個人化的回應,無需重複提供資訊。
Hugging Face TGI 訊息 API 發佈
Hugging Face 已在版本 1.4.0 起推出了用於文字生成推論(TGI)的訊息 API,使開放式 LLM 能相容 OpenAI Chat Completion API。
Qwen1.5 發行說明 / 新功能
Qwen 已發布 Qwen1.5,這是一系列開源的基礎與聊天模型,參數規模從 0.5B 到 110B 不等,具備提升的人類對齊、多語言能力,以及原生的 Hugging Face transformers 整合。
SegMoE:Segmind 擴散專家混合模型
SegMoE 是一個框架,透過將 Stable Diffusion 架構中的前饋層替換為稀疏 MoE 層,以建立 Mixture-of-Experts(MoE)擴散模型,從而提升提示詞的理解能力。
NPHardEval 排行榜:透過計算複雜度評估大型語言模型的推理能力
Hugging Face 推出 NPHardEval 排行榜,這是一個使用計算複雜度類別來量化衡量大型語言模型邏輯推理能力的動態基準測試。
PatchTST 在 Hugging Face 的整合
Hugging Face 已整合 PatchTST,一種基於 Transformer 的模型,透過時間序列 patch 與通道獨立性提升長期預測能力,並支援遷移學習。
Hugging Face 文本生成推理現在支援 AWS Inferentia2
Hugging Face 宣布 Text Generation Inference 在 AWS Inferentia2 上透過 Amazon SageMaker 正式上市,提供具成本效益且高吞吐量的 LLM 服務,作為 GPU 部署的替代方案。