Hugging Face Hub 資料集共享給研究者
Hugging Face Hub 提供一個綜合平台,用於託管和共享大規模 ML 資料集,並具備整合的探索、安全和社區參與工具。
Qwen2.5-Coder 系列發布說明
Qwen 已發布 Qwen2.5-Coder 系列,包含從 0.5B 到 32B 的六種模型規模,其中 32B-Instruct 模型在編碼任務上達到與 GPT-4o 相當的開源 SOTA 性能。
Hugging Face PyCharm 整合
Hugging Face 已將其 Hub 直接整合至 PyCharm Professional,讓開發者無需離開 IDE 即可探索、插入並管理機器學習模型。
Argilla 2.4 版本說明 / 新功能
Argilla 2.4 引入無程式碼 UI,讓使用者可匯入 Hugging Face Hub 資料集,透過人類回饋建立微調與評估資料集。
介紹 ChatGPT 搜尋
OpenAI 已將全新網路搜尋功能整合至 ChatGPT,讓使用者能快速、即時取得答案,並直接連結至相關的網路來源。
Promega ChatGPT 採用案例研究
Promega 已在整個組織中整合 ChatGPT,部署超過 1,400 個自訂 GPT,以加速製造、銷售與行銷工作流程。
OpenAI SimpleQA 基準發布
OpenAI 發布了 SimpleQA,一個包含 4,326 個短小事實查詢的開源基準,用於評估前沿語言模型的事實準確性與校準。
Decagon 客戶支援自動化與 OpenAI
Decagon 採用包含 GPT-3.5、GPT-4 與 o1-mini 的多模型策略,將企業客戶的全球支援自動化率提升至最高 91%。
通用輔助生成:使用任何助理模型加速解碼
Hugging Face 與 Intel Labs 推出通用輔助生成(UAG),這種方法允許任何小型模型作為助理模型加速 LLM 推理,提升 1.5 倍至 2.0 倍的效能,且不受分詞器限制。
Digital Green Farmer.chat: 以 LLM 作為評審提升 RAG
Digital Green 為 Farmer.chat(基於 RAG 的農業聊天機器人)實施了 LLM 作為評審的評估框架,以客觀衡量 RAG 準確度並在 34 萬次查詢中優化模型選擇。
Aya Expanse 發布:推進多語言大型語言模型效能
Hugging Face 與 Cohere For AI 已發布 Aya Expanse,這是一系列 8B 與 32B 開放權重模型,創下多語言效能的新最高基準。
簡化、穩定與擴展連續時間一致性模型
OpenAI 推出 sCM,一種簡化的連續時間一致性模型,僅需兩個抽樣步驟即可達到與擴散模型相同的樣本品質,實現約 50 倍的生成速度提升。
HUGS 發布:零配置、硬體最佳化的開源大型語言模型推論服務
Hugging Face 推出 HUGS,一項零配置、硬體最佳化的開源大型語言模型推論服務,支援 NVIDIA、AMD,未來將支援 AWS Inferentia 與 Google TPU,讓企業能在內部部署模型,並提供相容 OpenAI 的 API。
CinePile 2.0 發布:對抗式精煉提升影片問答資料集品質
CinePile 2.0 引入對抗式精煉流程,將薄弱的 QA 配對升級為依賴視覺的問題,並同時發布改進後的資料集與完整程式碼,顯示商業與開源影片大型語言模型皆有顯著效能提升。
Transformers v4.46.0 中的 SynthID Text 整合
Google DeepMind 與 Hugging Face 已將 SynthID Text 整合至 Transformers v4.46.0,提供一種在 AI 生成文字上加上不可察覺水印,並透過訓練好的分類器進行偵測的方法。
OpenAI 與微軟與 Lenfest Institute 合作 AI 協作與獎學金計畫
OpenAI 與微軟已與 Lenfest Institute for Journalism 合作,提供 1,000 萬美元的資金與點數,協助地方新聞編輯部導入 AI,以實現商業永續與創新。
在 Hugging Face 推論端點上部署 Speech-to-Speech
Hugging Face 提供了一份指南,說明如何在推論端點上使用自訂 Docker 映像部署其 Speech-to-Speech (S2S) 管線,以應對高計算需求並降低延遲。
Outlines-core 0.1.0 版本說明 / 新功能
Hugging Face 和 dottxt 已發布 outlines-core 0.1.0,這是 Outlines 核心演算法的 Rust 移植版,用於結構化生成,提升了索引編譯速度與可移植性。
Stable Diffusion 3.5 Large 與 Diffusers 整合
Hugging Face 已將 Stable Diffusion 3.5 Large(8B 參數模型,提供標準版與時間步蒸餾版)整合至 Diffusers 函式庫。
Hugging Face 與 Protect AI 合作,為模型安全新增 Guardian 掃描器
Hugging Face 與 Protect AI 合作,將 Guardian 掃描器嵌入 Hub,自動偵測危險的模型序列化漏洞,提升整個機器學習社群的安全性。
Transformers.js v3 版本發布,新增 WebGPU 加速、擴充模型支援,並支援伺服器端 JavaScript 相容性
Transformers.js v3 加入了 WebGPU 加速、新的量化格式、支援 120 種模型架構,並支援 Node.js、Deno、Bun,使得在瀏覽器與 JavaScript 執行環境中能進行快速的裝置端推論。
Keras 中的 Llama 3.2
Llama 3.2 透過 keras-hub 完全支援於 Keras,讓使用者能載入 Hugging Face 檢查點,並在 JAX、PyTorch 或 TensorFlow 後端上執行模型。
Hugging Face Transformers 梯度累積修正
Hugging Face 已更新 Transformers Trainer,透過修正批次間損失的平均方式,確保梯度累積在數學上等同於完整批次訓練。
OpenAI 評估 ChatGPT 公平性的研究摘要
OpenAI 的研究發現,基於名稱的有害刻板印象出現在不到 0.1% 的 ChatGPT 回應中,且整體答案品質在性別與種族名稱提示下保持一致。
OpenAI MLE-bench:評估機器學習工程中的機器學習代理
OpenAI 推出 MLE-bench,這是一個使用 75 場 Kaggle 競賽來衡量 AI 代理機器學習工程能力的基準測試,其中 o1-preview 在 16.9% 的任務中達到銅牌水平。
Gradio 5 安全審查
Hugging Face 與 Trail of Bits 合作,對 Gradio 5 進行了全面的安全審計,修復了所有已識別的漏洞,確保機器學習應用程式在預設情況下即安全。
AMD EPYC Turin CPU 在 Genoa 之上提供 2× LLM 推理吞吐量
AMD 第五代 EPYC Turin CPU 的 LLM 推理吞吐量大約是 Genoa 的兩倍,為 Hugging Face 工作負載帶來更低的延遲和更高的吞吐量。
使用 Hugging Face 與 Dask 擴展 AI 資料處理規模
Hugging Face 與 Dask 讓 AI 資料處理能從小規模本地樣本擴展至數億筆資料,透過分散式運算與多 GPU 並行推論實現。
Gradio 5 版本說明
Hugging Face 已發布 Gradio 5,這是一個可直接投入生產的框架,用於使用 Python 建構高效、可擴展且安全的機器學習 Web 應用程式。
OpenAI 與 Hearst 內容合作夥伴關係
OpenAI 與 Hearst 合作,將超過 20 個雜誌品牌與 40 多家報紙的內容整合至其 AI 產品(包括 ChatGPT),以提供使用者更可靠且具引用來源的新聞報導。
Hugging Face Transformers 4.45.0 動態投機解碼
Hugging Face 與 Intel Labs 在 Transformers 4.45.0 中引入了動態投機解碼,透過根據模型信心動態調整草稿 token 數量,使文字生成速度提升最高可達 2.7 倍。
在 Hugging Face Hub 上改進 Parquet 去重
Hugging Face 正在優化其儲存架構以提升 Parquet 檔案的去重效能,並提出內容定義的列群組,以減少資料集更新時的儲存開銷。
Open FinLLM Leaderboard 發布 – 全面零樣本金融語言模型基準測試
Hugging Face 推出了 Open FinLLM Leaderboard,這是一個零樣本基準,涵蓋七大類別的 40 項金融專屬任務,用於評估大型語言模型在真實金融應用中的就緒程度。
OpenAI Canvas 測試版發布:協作寫作與程式編碼介面 for ChatGPT
OpenAI 推出 Canvas,一個測試版介面,讓 ChatGPT 能在寫作與程式編碼專案中進行協作,具備行內編輯、版本控制與專屬快捷鍵,最初向 Plus 與 Team 用戶開放。
OpenAI 建立 $4 Billion 信用額度以提升財務彈性
OpenAI 已與全球銀行聯盟建立了 $4 billion 的循環信用額度,以提升流動性並支援 AI 研究與基礎設施的擴張。
中國 AI 全球擴張分析
中國 AI 公司因國內市場飽和、激烈的價格戰與監管壓力,加速國際擴張,目標包括東南亞、中東以及西方消費者市場。
OpenAI 資金公告 2024年10月
OpenAI 以 1,570 億美元的後資金估值籌得 66 億美元的新資金,以加速前沿 AI 研究並提升運算能力。
OpenAI 即時 API 發佈
OpenAI 已在公開測試中推出即時 API,使開發者能夠使用 GPT-4o 建構低延遲、多模態的語音對語音體驗。
GPT-4o 視覺微調 API 發佈
OpenAI 推出了 GPT-4o 的視覺微調功能,讓開發者能夠使用圖文資料集自訂模型,以提升專業的視覺理解與物件偵測能力。
OpenAI 提示快取 API 發佈
OpenAI 為 GPT-4o、GPT-4o mini、o1-preview 與 o1-mini 推出提示快取功能,提供 50% 的折扣並降低重複使用輸入代幣的延遲。
OpenAI 模型蒸餾 API 整合
OpenAI 推出了整合式模型蒸餾套件,讓開發者能使用前沿模型(如 o1-preview 與 GPT-4o)的輸出,對較小的模型(如 GPT-4o mini)進行微調,提升其效能。
OpenAI 與 Altera:使用 GPT-4o 創造協作式數位人類
Altera 開發了自主 AI 代理人,稱為數位人類,能在如 Minecraft 等環境中與人協作,採用受大腦啟發且以 GPT-4o 為動力的架構。
BenCzechMark:針對捷克語 LLM 的全面評估套件
Hugging Face 與學術合作夥伴發布了 BenCzechMark,這是首個針對捷克語模型的全面評估套件,包含 9 個類別的 50 項任務,並採用新穎的對決式計分機制。
OpenAI 阻斷與伊朗相關的 STORM-0817 惡意軟體活動
OpenAI 已停用伊朗基地威脅行動者 STORM-0817 用於開發 Android 惡意軟體、抓取 Instagram 個人檔案,以及對巴基斯坦資安專業人員進行偵查的帳號。
OpenAI 打擊 SweetSpecter 與中國相關的網路活動
OpenAI 識別並封禁了與中國籍對手 SweetSpecter 相關的帳號,該對手企圖利用 ChatGPT 進行攻擊性網路行動,並以魚叉式網路釣魚攻擊針對 OpenAI 員工。
OpenAI 調查:偽造俄羅斯巨魔錯誤訊息騙局
OpenAI 已揭穿一則聲稱揭露俄羅斯巨魔帳號 GPT-4o 錯誤訊息的病毒貼文,指出此事件是一個可能源自美國的人工製作騙局。
OpenAI 破壞 CyberAv3ngers 伊朗關聯的網路研究活動
OpenAI 已封鎖與伊朗關聯的威脅行動者 CyberAv3ngers 相關的帳號,該組織使用 LLM 進行偵查、程式除錯與針對工業控制系統的漏洞研究。
OpenAI 破壞「Stop News」俄羅斯影響行動
OpenAI 封禁了一批由俄羅斯發源的影響行動「Stop News」所使用的 ChatGPT 帳號,該行動利用 AI 生成的文字與圖像冒充新聞媒體,並建立欺騙性的合作夥伴關係。
OpenAI 打斷 Operation A2Z 多語言影響活動
OpenAI 封鎖了一批使用其 API 執行多語言影響行動的帳號,該行動被稱為 Operation A2Z,利用 AI 管理虛假人物並在 X 與 Facebook 上產生政治內容。
OpenAI 打擊 Bet Bot 賭博垃圾訊息網路
OpenAI 封禁了一批透過以色列新創公司使用其 API 在 X 上運作的賭博垃圾訊息網路帳號,利用 AI 生成的虛擬人物誘導使用者前往賭博網站。