BigCodeBench：複雜 Python 程式碼生成的新基準
Hugging Face 發布了 BigCodeBench，這是一個包含 1,140 個函式層級任務的基準，旨在評估 LLM 在實務程式設計與多樣函式庫使用上的能力，解決 HumanEval 的簡單性與污染問題。
Color Health 使用 GPT-4o 加速癌症護理與診斷工作流程
Color Health 開發了一款由 GPT-4o 驅動的協助應用程式，協助臨床醫師辨識缺失的診斷項目並制定個人化的癌症篩檢與治療計畫。
OpenAI 任命退休美國陸軍將軍 Paul M. Nakasone 為董事會成員
OpenAI 任命退休美國陸軍將軍 Paul M. Nakasone 為其董事會成員，以加強公司在 AI 能力邁向通用人工智慧（AGI）過程中的網路安全姿態與安全監督。
Hugging Face Accelerate：協調 DeepSpeed 與 FSDP 精度
Hugging Face Accelerate 0.30.0 引入了對 PyTorch FSDP 的自動 upcasting，使其精度處理與 DeepSpeed 保持一致，從而在兩個後端之間無縫切換且不會失去收斂性。
Stable Diffusion 3 Medium 與 Diffusers 的整合
Hugging Face 已將 Stable Diffusion 3 Medium（2B 參數）整合至 Diffusers 函式庫，並引入多模態擴散變換器（MMDiT）與校正流匹配，以提升文字到影像的合成效果。
Hugging Face TRL RLOO Trainer 發布
Hugging Face 已在 TRL 中推出 RLOO（REINFORCE Leave One-Out）Trainer，這是一種線上 RLHF 演算法，使用 50-70% 更少的 vRAM，且收斂速度比 PPO 快至 3 倍，同時在效能上保持競爭力。
OpenAI 任命 Sarah Friar 為 CFO，Kevin Weil 為 CPO
OpenAI 任命 Sarah Friar 為首席財務官，Kevin Weil 為首席產品官，以在公司成長過程中擴大營運與產品部署。
OpenAI 語音引擎：技術實作與安全框架
OpenAI 的語音引擎是一個自 2022 年起開發的合成語音模型，透過受控的逐步發布方式迭代部署，以提供安全研究與政策制定的資訊。
Hugging Face 嵌入容器於 Amazon SageMaker 發布
Hugging Face 已發布通用可用（GA）嵌入容器於 Amazon SageMaker，該容器由 Text Embedding Inference（TEI）提供動力，以高效能部署開放式嵌入模型。
Hugging Face Transformers 文件重新設計
Hugging Face 正在重新設計 Transformers 文件，將其從僵硬、逐步累積的結構轉變為以程式碼為先、針對產品開發者量身打造的整合體驗。
Qwen2 版本說明 / 新功能
Qwen 宣佈 Qwen2，這是一系列五個開源模型，參數規模從 0.5B 到 72B，增強了對額外 27 種語言的多語言支援，且上下文長度最高可達 128K 令牌。
10BedICU 與 OpenAI：提升印度的重症護理基礎設施
10BedICU 正將 OpenAI 的 GPT-4 與 Whisper 模型整合至其 CARE 平台，以自動化醫療文件、整合舊有硬體，並在印度公立醫院中簡化出院摘要。
Qwen-Agent：將 LLM 從 8k 通用化至 1M 上下文
Qwen 開發了一套代理框架，使 8k 上下文模型能處理 1M token，並在特定基準測試中超越 RAG 與原生長上下文模型。
人工分析文字轉圖排行榜與競技場發布
Hugging Face 推出了人工分析文字轉圖排行榜與競技場，利用超過 45,000 票的人類偏好數據對開源與專有圖像生成模型進行排名。
從 GPT-4 中提取概念
OpenAI 開發了可擴展的稀疏自編碼器方法，將 GPT-4 的內部表徵分解為 1600 萬可供人類解讀的特徵。
Hugging Face NPC-Playground：在 3D 環境中整合 LLM 驅動的 NPC
Hugging Face 推出 NPC-Playground，一個利用 Cubzh 與 Gigax 的 3D 示範，透過函式呼叫與 Lua 腳本實現逼真的 LLM 驅動 NPC 互動。
Intel Gaudi 輔助生成支援
Hugging Face 已將輔助生成（投機抽樣）整合至 Optimum Habana，使大型 transformer 模型在 Intel Gaudi 處理器上可提升至最高 2 倍的速度。
Hugging Face Spaces 秘密安全更新
Hugging Face 披露了一起安全事件，涉及未經授權存取部分 Spaces 秘密，導致受影響的令牌被撤銷，並轉向使用細粒度存取令牌。
OpenAI 打擊隱蔽 AI 影響行動
OpenAI 終止了與五個使用 AI 產生欺騙性內容的隱蔽影響行動相關的帳號，儘管這些行動皆未取得顯著的受眾觸及。
OpenAI 為大學推出 ChatGPT Edu
OpenAI 已推出 ChatGPT Edu，這是一個為大學設計的 ChatGPT 版本，可在企業級安全、資料隱私保護下，讓大學大規模部署 AI，並可使用 GPT-4o。
OpenAI 非營利組織倡議
OpenAI 已推出 OpenAI 非營利組織計畫，提供 ChatGPT Business 與 Enterprise 的折扣使用，以協助非營利組織克服營運與資金限制。
MavenAGI 由 OpenAI 提供技術支援的自動化客戶支援代理人
MavenAGI 已推出基於 GPT-4 的 AI 客戶服務代理人，可自動化處理高達 93% 的支援問題，並將每張工單的平均成本從 $40 降至 $8。
OpenAI 與 WAN-IFRA 推出 The Newsroom AI Catalyst 計畫
OpenAI 與 WAN-IFRA 已推出 The Newsroom AI Catalyst，這是一個加速計畫，為全球 128 家新聞編輯室提供資金與技術支援，以快速推動 AI 採用並提升新聞業的永續性。
OpenAI 與 The Atlantic 的新聞整合夥伴關係
OpenAI 與 The Atlantic 已建立戰略夥伴關係，將 The Atlantic 的高品質新聞內容整合至 ChatGPT 及其他 OpenAI 產品，並提供歸屬標示與完整文章連結。
OpenAI 與 Vox Media 戰略合作夥伴關係
OpenAI 與 Vox Media 已建立戰略合作夥伴關係，將 Vox Media 的新聞內容整合至 ChatGPT，並共同開發面向消費者與廣告主的 AI 驅動產品。
文本生成推理基準測試
Hugging Face 推出了一款用於文本生成推理（TGI）的基準測試工具，幫助開發者分析吞吐量與延遲之間的取捨，以優化大型語言模型部署的成本與效能。
OpenAI董事會成立安全與安保委員會
OpenAI已成立安全與安保委員會，以監督其專案與營運中的關鍵安全與安保決策，並開始訓練其下一個前沿模型。
使用 Sentence Transformers 訓練與微調嵌入模型
Hugging Face 提供了使用 Sentence Transformers 套件訓練與微調嵌入模型以應對語意搜尋與 RAG 等任務的完整指南，並介紹了全新的 SentenceTransformerTrainer。
Falcon 2 11B 發布說明
TII 已發布 Falcon 2 11B，一系列更小且高效能的模型，包括在超過 5,000 億個 token 上訓練的預訓練大型語言模型（LLM）與視覺語言模型（VLM）。
CyberSecEval 2：評估大型語言模型的網路安全風險
Hugging Face 與 Meta 推出了 CyberSecEval 2，一個全面的框架，用於評估大型語言模型在程式碼解譯器濫用、進攻性網路安全能力以及提示注入攻擊方面的易受性。
OpenAI 與 News Corp 多年全球合作夥伴關係
OpenAI 與 News Corp 簽訂了多年協議，允許 OpenAI 將 News Corp 來自《華爾街日報》與《泰晤士報》等主要出版物的即時與存檔內容整合至其產品中，以提升資訊的可靠性。
Hugging Face AWS Inferentia2 整合
Hugging Face 擴大了對 AWS Inferentia2 的支援，讓使用者能透過 Amazon SageMaker 部署超過 100,000 個模型，並為 Hugging Face 推理端點引入了新的 Inf2 實例選項。
OpenAI 安全實踐
OpenAI 詳細說明了用於開發與部署前沿 AI 模型的十項核心安全實踐，強調以科學方法將安全融入模型生命周期的每個階段。
Hugging Face 與 Microsoft 戰略合作更新 2024 年 5 月
Hugging Face 與 Microsoft 擴大了戰略合作，將熱門開放模型整合至 Azure Model Catalog、在 Azure 上啟用 AMD MI300X GPU 支援，並為 Hugging Face Spaces 引入 VS Code 整合。
Hugging Face 整合 AMD Instinct MI300 GPU
Hugging Face 為 AMD Instinct MI300 GPU 提供了一流的整合，使 Llama 3 70B 的推論速度提升最高可達 3 倍，微調速度提升 2 倍，相較於 MI250。
Dell Enterprise Hub: 本地 AI 部署與訓練
Hugging Face 與 Dell 推出了 Dell Enterprise Hub，這是一個平台，可簡化在 Dell 硬體上本地訓練與部署開源大型語言模型的流程。
Hugging Face Spaces 開發模式發布
Hugging Face 推出了 Spaces Dev Mode，讓 PRO 訂閱者可透過 VS Code 或 SSH 進行即時程式碼編輯，無需為每次變更執行 git 推送。
OpenAI ChatGPT 語音選擇流程
OpenAI 詳細說明了為選拔 ChatGPT 五位專業配音演員而進行的五個月選角流程，同時闡明「Sky」語音並非旨在模仿 Scarlett Johansson。
ChatGPT 資料分析改進（2024年5月）
OpenAI 為 ChatGPT 引入了資料分析的增強功能，包括直接雲端儲存整合、互動式表格以及可自訂的圖表，這些功能由 GPT-4o 提供支援。
OpenAI 與 Reddit 合作夥伴關係
OpenAI 與 Reddit 合作，將即時 Reddit 內容整合至 ChatGPT，並實施 OpenAI 的 AI 模型，以提升 Reddit 使用者與版主的功能。
Hugging Face KV 快取量化
Hugging Face 在 Transformers 函式庫中引入了 KV 快取量化，以降低長上下文文字生成的記憶體使用量，且對模型品質的影響極小。
Canva Magic Studio 與 OpenAI 的整合
Canva 已整合 OpenAI 的 GPT-4 與 API，為其 Magic Studio AI 套件提供動力，該套件已被使用超過 50 億次，以簡化非專業創作者的設計流程。
OpenAI 領導層變動：Ilya Sutskever 離職，Jakub Pachocki 任命為首席科學家
OpenAI 宣布共同創辦人 Ilya Sutskever 離開公司，並任命 Jakub Pachocki 為新任首席科學家，領導朝向 AGI 的研究工作。
介紹 Open Arabic LLM Leaderboard
Hugging Face 與科技創新研究院（Technology Innovation Institute）已推出 Open Arabic LLM Leaderboard（OALL），提供一個專門的、開放的阿拉伯語大型語言模型評估平台。
PaliGemma 視覺語言模型發布
Google 已發布 PaliGemma，這是一系列結合 SigLIP-So400m 與 Gemma-2B 的開放式視覺語言模型，可執行圖像說明、視覺問答與目標偵測等任務。
Hugging Face 與 LangChain 推出 langchain_huggingface 合作套件
Hugging Face 與 LangChain 已發布 langchain_huggingface，這是一個共同維護的合作套件，旨在簡化 Hugging Face 模型在 LangChain 生態系統中的整合。
OpenAI GPT-4o 版本說明
OpenAI 已發布 GPT-4o，一種全端訓練的全能模型，涵蓋文字、視覺與音訊，旨在實現自然的人機互動，並具有人類般的回應延遲。
OpenAI 春季更新：推出 GPT-4o
OpenAI 已發布 GPT-4o，一款能夠在音訊、視覺和文字上進行即時推理的新旗艦模型，同時將先進功能擴展至 ChatGPT 免費用戶。
OpenAI GPT-4o 發佈與 ChatGPT 免費版功能增強
OpenAI 推出了 GPT-4o，這是一款提供 GPT-4 等級智能、並在文字、語音和視覺方面提升了速度與多模態能力的旗艦模型，現在免費版與付費版用戶均可使用。
Transformers Agents 2.0 release notes / what's new
Hugging Face 推出了 Transformers Agents 2.0，這是一個模組化代理框架，其特點是具備迭代問題解決能力的代理，並在 GAIA benchmark 使用 Llama-3-70B-Instruct 展現了高性能。