✷ 封存 · 11 個實驗室 · 3,059 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
SmolVLM 版本說明 / 新功能
Hugging Face 推出 SmolVLM，一個參數量為 2B 的視覺語言模型（VLM），完全開源，並針對低記憶體佔用和高吞吐量在邊緣設備上進行優化。
您本可以設計出最先進的位置編碼
Hugging Face 部落格文章逐步說明了 transformer 的位置編碼迭代設計，展示了正弦編碼如何導致旋轉位置編碼 (RoPE)，以及為什麼它對建模標記關係很重要。
Anthropic Model Context Protocol (MCP) 發佈
Anthropic 已將 Model Context Protocol (MCP) 開源，這是一個連接 AI 助手與內容存儲庫、商業工具和開發環境等數據源的通用標準，旨在消除碎片化的集成。
Ollama Python Library 0.4 Release Notes
Ollama Python library 0.4 引入了直接將 Python 函數作為工具傳遞的能力，並透過 Pydantic 和 docstring parsing 自動化 JSON schema 的生成。
Anthropic 與 AWS 擴大 AI 開發合作夥伴關係
Anthropic 與 AWS 已擴大合作，其中包括 Amazon 的一筆 40 億美元新投資，以及旨在為未來基礎模型優化 Trainium 硬體的深度技術合作夥伴關係。
結合人類與 AI 推進紅隊演練 —— OpenAI 對於 o1 系列模型的做法與應用
OpenAI 發布了一份白皮書，詳細說明其對 AI 模型的外部紅隊演練流程，並將其應用於為 OpenAI o1 系列模型的公開發布做準備。
Grab GPT-4o 視覺微調用於 GrabMaps
Grab 已實施 GPT-4o 視覺微調，以自動化 GrabMaps 的交通標誌定位和車道計數，使速限標誌定位提升 13%，車道計數準確度提升 20%。
Hugging Face 與 LLM-jp 推出開放日語 LLM 排行榜
Hugging Face 與 LLM-jp 已推出開放日語 LLM 排行榜，一個透明的評估平台，包含超過 20 個資料集，用於基準測試日語大型語言模型的效能。
Hugging Face 引入內容定義分塊以提升儲存效率
Hugging Face 透過其 Xet 團隊宣布了一種內容定義分塊儲存方法，該方法僅上傳已修改的區塊，從而降低大型模型和資料集檔案的儲存和傳輸成本。
使用自推測解碼加速文本生成
Hugging Face 透過 LayerSkip 引入自推測解碼，該方法利用單一大型語言模型的早期層進行草擬，後期層進行驗證，以提升生成速度並降低記憶體開銷。
FlagEval 辯論：全新多語言 LLM 評估框架
BAAI 已推出 FlagEval 辯論，一個動態評估平台，LLM 在此平台上進行多語言辯論，以更好地評估推理、邏輯和對抗能力。
Rox 收益平台與 OpenAI 整合
Rox 使用 OpenAI 的 API 推出了一個由 AI 驅動的收益管理平台，透過 AI 代理群系統自動化資料統一、銷售工作流程與帳戶監控。
Hugging Face Judge Arena: 將LLMs作為評估者進行基準測試
Hugging Face 已推出 Judge Arena，這是一個利用人工投票來判定哪些 LLMs 作為評估者最有效的眾包平台，用於為其他 AI 生成的回應進行評分。
Anthropic 模型評估的統計方法
Anthropic 提出了一個嚴謹的統計框架用於 AI 模型評估，利用中央極限定理和檢定力分析等工具，將真實的能力差異與隨機雜訊區分開來。
Mistral AI le Chat 更新 2024 年 11 月
Mistral AI 為 le Chat 推出了幾項測試版功能，包括帶有引用的網頁搜尋、協作式的 Canvas 介面，以及由 Pixtral Large 驅動的多模態能力。
Pixtral Large 發佈說明
Mistral AI 發佈了 Pixtral Large，這是一款 124B 開放權重多模態模型，在 MathVista、DocVQA 和 VQAv2 上達到了頂尖性能，同時保留了 Mistral Large 2 的文本能力。
OpenAI 在巴黎開設辦事處以擴大法國 AI 生態系統
OpenAI 已在巴黎開設新辦事處，以支援法國組織、新創公司及政府合作中 AI 的快速普及。
Qwen2.5-Turbo 1M Token Context Length Release
Qwen 發布了 Qwen2.5-Turbo，將模型的上下文視窗擴展至 100 萬個 token，同時顯著提升推理速度，並在短序列任務上保持競爭力的表現。
雅詩蘭黛公司 ChatGPT Enterprise 實施
雅詩蘭黛公司已部署 ChatGPT Enterprise 來分析 75+ 年的消費者和臨床數據，創建超過 240 個自訂 GPT 以加速產品開發和市場反應能力。
Hugging Face Hub 資料集共享給研究者
Hugging Face Hub 提供一個綜合平台，用於託管和共享大規模 ML 資料集，並具備整合的探索、安全和社區參與工具。
Qwen2.5-Coder 系列發布說明
Qwen 已發布 Qwen2.5-Coder 系列，包含從 0.5B 到 32B 的六種模型規模，其中 32B-Instruct 模型在編碼任務上達到與 GPT-4o 相當的開源 SOTA 性能。
Mistral Batch API 發佈
Mistral AI 推出了 Batch API，允許用戶以比同步 API 調用低 50% 的成本來處理高容量請求。
Mistral Moderation API 發佈
Mistral AI 已發佈新的內容審核 API，這是一款基於 LLM 的分類器，可將文本分類為多種語言中的九種安全類別，為 AI 部署提供系統級護欄。
Llama 3.2 Vision 現已可在 Ollama 中使用
Ollama 已發布對 Llama 3.2 Vision (11B 與 90B 參數規模) 的支援，實現了包括 OCR 與圖像分析在內的多模態能力的本地執行。
Hugging Face PyCharm 整合
Hugging Face 已將其 Hub 直接整合至 PyCharm Professional，讓開發者無需離開 IDE 即可探索、插入並管理機器學習模型。
Argilla 2.4 版本說明 / 新功能
Argilla 2.4 引入無程式碼 UI，讓使用者可匯入 Hugging Face Hub 資料集，透過人類回饋建立微調與評估資料集。
xAI API 公開測試版發布
xAI 已推出其 API 的公開測試版，讓開發者能透過程式化方式存取 Grok 系列基礎模型，初始版本為 grok-beta 模型。
Claude 3 Haiku 在 Amazon Bedrock 中的微調
Anthropic 已在 Amazon Bedrock 中正式提供 Claude 3 Haiku 的微調功能，允許使用者針對專業任務客製化模型，以實現更高的準確度與更低的成本。
介紹 ChatGPT 搜尋
OpenAI 已將全新網路搜尋功能整合至 ChatGPT，讓使用者能快速、即時取得答案，並直接連結至相關的網路來源。
Promega ChatGPT 採用案例研究
Promega 已在整個組織中整合 ChatGPT，部署超過 1,400 個自訂 GPT，以加速製造、銷售與行銷工作流程。
Anthropic：針對性人工智慧監管的必要性
Anthropic 主張，政府應在未來18個月內對前沿人工智慧模型實施緊急且精準的監管，以降低災難性的網路與CBRN風險，同時維持創新動能。
OpenAI SimpleQA 基準發布
OpenAI 發布了 SimpleQA，一個包含 4,326 個短小事實查詢的開源基準，用於評估前沿語言模型的事實準確性與校準。
Decagon 客戶支援自動化與 OpenAI
Decagon 採用包含 GPT-3.5、GPT-4 與 o1-mini 的多模型策略，將企業客戶的全球支援自動化率提升至最高 91%。
通用輔助生成：使用任何助理模型加速解碼
Hugging Face 與 Intel Labs 推出通用輔助生成（UAG），這種方法允許任何小型模型作為助理模型加速 LLM 推理，提升 1.5 倍至 2.0 倍的效能，且不受分詞器限制。
Claude 3.5 Sonnet 與 GitHub Copilot 的整合
Anthropic 的 Claude 3.5 Sonnet 現已在 GitHub Copilot 上提供公開預覽版，為開發者提供高效能的編碼模型，其在 SWE-bench Verified 上的表現優於其他公開可用的模型。
Digital Green Farmer.chat: 以 LLM 作為評審提升 RAG
Digital Green 為 Farmer.chat（基於 RAG 的農業聊天機器人）實施了 LLM 作為評審的評估框架，以客觀衡量 RAG 準確度並在 34 萬次查詢中優化模型選擇。
Anthropic 評估特徵引導：減少社會偏見的案例研究
Anthropic 研究人員發現，雖然特徵引導可以在 Claude 3 Sonnet 中精準針對特定社會偏見與政治立場，但經常產生不可預測的非目標效應，且在特定引導範圍外會導致模型能力嚴重下降。
Aya Expanse 發布：推進多語言大型語言模型效能
Hugging Face 與 Cohere For AI 已發布 Aya Expanse，這是一系列 8B 與 32B 開放權重模型，創下多語言效能的新最高基準。
簡化、穩定與擴展連續時間一致性模型
OpenAI 推出 sCM，一種簡化的連續時間一致性模型，僅需兩個抽樣步驟即可達到與擴散模型相同的樣本品質，實現約 50 倍的生成速度提升。
HUGS 發布：零配置、硬體最佳化的開源大型語言模型推論服務
Hugging Face 推出 HUGS，一項零配置、硬體最佳化的開源大型語言模型推論服務，支援 NVIDIA、AMD，未來將支援 AWS Inferentia 與 Google TPU，讓企業能在內部部署模型，並提供相容 OpenAI 的 API。
CinePile 2.0 發布：對抗式精煉提升影片問答資料集品質
CinePile 2.0 引入對抗式精煉流程，將薄弱的 QA 配對升級為依賴視覺的問題，並同時發布改進後的資料集與完整程式碼，顯示商業與開源影片大型語言模型皆有顯著效能提升。
Transformers v4.46.0 中的 SynthID Text 整合
Google DeepMind 與 Hugging Face 已將 SynthID Text 整合至 Transformers v4.46.0，提供一種在 AI 生成文字上加上不可察覺水印，並透過訓練好的分類器進行偵測的方法。
OpenAI 與微軟與 Lenfest Institute 合作 AI 協作與獎學金計畫
OpenAI 與微軟已與 Lenfest Institute for Journalism 合作，提供 1,000 萬美元的資金與點數，協助地方新聞編輯部導入 AI，以實現商業永續與創新。
在 Hugging Face 推論端點上部署 Speech-to-Speech
Hugging Face 提供了一份指南，說明如何在推論端點上使用自訂 Docker 映像部署其 Speech-to-Speech (S2S) 管線，以應對高計算需求並降低延遲。
Outlines-core 0.1.0 版本說明 / 新功能
Hugging Face 和 dottxt 已發布 outlines-core 0.1.0，這是 Outlines 核心演算法的 Rust 移植版，用於結構化生成，提升了索引編譯速度與可移植性。
Stable Diffusion 3.5 Large 與 Diffusers 整合
Hugging Face 已將 Stable Diffusion 3.5 Large（8B 參數模型，提供標準版與時間步蒸餾版）整合至 Diffusers 函式庫。
Hugging Face 與 Protect AI 合作，為模型安全新增 Guardian 掃描器
Hugging Face 與 Protect AI 合作，將 Guardian 掃描器嵌入 Hub，自動偵測危險的模型序列化漏洞，提升整個機器學習社群的安全性。
Transformers.js v3 版本發布，新增 WebGPU 加速、擴充模型支援，並支援伺服器端 JavaScript 相容性
Transformers.js v3 加入了 WebGPU 加速、新的量化格式、支援 120 種模型架構，並支援 Node.js、Deno、Bun，使得在瀏覽器與 JavaScript 執行環境中能進行快速的裝置端推論。
Anthropic Claude 3.5 Sonnet 與 Claude 3.5 Haiku 發佈
Anthropic 發佈了升級版的 Claude 3.5 Sonnet 與全新的 Claude 3.5 Haiku，同時推出了具備突破性「computer use」功能的公開測試版，讓模型能夠與標準電腦介面進行互動。
Keras 中的 Llama 3.2
Llama 3.2 透過 keras-hub 完全支援於 Keras，讓使用者能載入 Hugging Face 檢查點，並在 JAX、PyTorch 或 TensorFlow 後端上執行模型。