Hugging Face Hub 儲存區域
Hugging Face 為 Enterprise Hub 客戶推出了儲存區域功能，使組織能夠選擇其模型和資料集的存放位置，以提升法規遵循性和資料傳輸效能。
個人 Copilot: 訓練您自己的編碼助理
Hugging Face 展示了如何通過在特定代碼庫上使用 QLoRA 和完整微調技術對 StarCoder 進行微調，來創建個人化的編碼助理 HugCoder。
OpenAI 前沿風險與準備框架
OpenAI 已成立專門的準備團隊和風險知情開發政策，以識別、評估和緩解與前沿 AI 模型相關的災難性風險。
前沿模型論壇更新
OpenAI、Anthropic、Google 和 Microsoft 已任命 Chris Meserole 為 Frontier Model Forum 的執行董事，並設立了一筆 1000 萬美元的 AI 安全基金，以推進對具備能力的 AI 模型的評估研究。
Hugging Face 與 Renumics Spotlight 整合，實現可擴展的資料檢查
Hugging Face 已與 Renumics Spotlight 整合，以實現互動式、單行代碼的機器學習資料集視覺化與檢查，包括對多模態資料和模型結果的支援。
優化 Stable Diffusion XL (SDXL) 的推理速度與記憶體使用
Hugging Face 探索了 Stable Diffusion XL (SDXL) 的多種優化技術，展示了如何將記憶體使用量從 28GB 降低至低至 11.47GB，並將推理延遲從 72.2 秒降低到大約 10.3 秒。
使用 Hugging Face Inference Endpoints 部署嵌入模型
Hugging Face 透過 Inference Endpoints 引入 Text Embeddings Inference (TEI)，提供一種高效能且具成本效益的方式來部署開源嵌入模型，用於 RAG 和語義搜尋。
The N 關於 RLHF 與 PPO 的實作細節 – Hugging Face 博客摘要
Hugging Face 部落格文章重現了 OpenAI 2019 年的 RLHF 程式碼庫，匹配其學習曲線，並詳細說明 N 個實作細節，其中包括一個關鍵的 PyTorch Adam 優化器差異，導致更新更積極。
DALL·E 3 在 ChatGPT Plus 與 Enterprise 中的整合
OpenAI 已將 DALL·E 3 整合至 ChatGPT Plus 與 Enterprise，推出一種能夠提供更高視覺保真度、更佳提示遵循以及改進文字、手部和臉部渲染的模型。
Gradio-Lite: 完全在您的瀏覽器中運行的無伺服器 Gradio
Hugging Face 推出 Gradio-Lite (@gradio/lite)，一個使用 Pyodide 在網頁瀏覽器中直接運行 Gradio 應用程式的 JavaScript 庫，消除了對伺服器基礎設施的需求。
Typeform Formless: AI 驅動的對話式資料收集
Typeform 已推出 Formless，這是一個建構於 GPT-3.5 Turbo 和 GPT-4 的 AI 驅動平台，它以動態的雙向對話體驗取代傳統的表單結構。
Ironclad AI Assist 與 GPT-4 的整合
Ironclad 透過 AI Assist 將 GPT-4 整合到其合約生命週期管理平台，將初始合約紅線修訂時間從 40 分鐘縮短至兩分鐘。
Retool AI 與 GPT-4 整合
Retool 已推出 Retool AI，這是一套由 GPT-4 驅動的功能套件，使企業能夠使用視覺畫面構建自訂的 AI 驅動應用程式與工作流程。
使用 ONNX Runtime 加速 Hugging Face 模型
Hugging Face 和 ONNX Runtime 使超過 130,000 個模型能夠實現效能加速，包括相較於 PyTorch，whisper-tiny 模型的延遲減少高達 74.30%。
DALL·E 3 系統卡
OpenAI 發布了 DALL·E 3 系統卡，詳細說明了相較於 DALL·E 2 在字幕忠誠度和圖像品質方面的改進，並伴隨著廣泛的安全評估和風險緩解措施。
Hugging Face 聊天範本
Hugging Face 推出了基於 Jinja 的聊天範本系統，以確保聊天模型接收到的輸入格式與訓練時完全一致，從而防止效能無預警下降。
在 Cloud TPU v5e 上使用 JAX 加速 Stable Diffusion XL 推理
Hugging Face Diffusers 現在支援在 Cloud TPU v5e 上使用 JAX 提供 Stable Diffusion XL (SDXL) 服務，相較於 TPU v4，每美元的性能最高可提升 2.4 倍。
透過 Hugging Face Inference API 部署 AI Comic Factory
Hugging Face 提供了一個使用 Inference API 部署 AI Comic Factory 私人實例的指南，利用 Llama-2 和 SDXL 1.0 模型。
使用 TRL 透過 DDPO 微調 Stable Diffusion
Hugging Face 已將 Denoising Diffusion Policy Optimization (DDPO) 整合到 TRL 函式庫中，利用強化學習使 Stable Diffusion 模型與人類偏好對齊。
Hugging Face 倫理與社會更新 2023 夏季版
Hugging Face 詳細介紹了其在 2023 年夏季致力於影響美國、歐盟與英國 AI 監管的努力，同時透過公眾倡權與技術研究推進開源倫理。
Hugging Face 指南：無需程式碼訓練 LLaMA 2 聊天機器人
Hugging Face 透過使用 Spaces、AutoTrain 和 ChatUI 提供無程式碼工作流程，使非工程師能夠微調 LLaMA 2 並將其部署為功能聊天應用程式。
Llama 2 在 Amazon SageMaker 上的基準測試
Hugging Face 分析了 Llama 2 在 Amazon SageMaker 上的 60 種部署配置，以找出成本、吞吐量和延遲的最佳設置。
GPT-4V(ision) 系統卡
OpenAI 推出了 GPT-4V(ision)，這是 GPT-4 的多模態擴展，允許模型分析並處理圖像輸入，以解決新任務並提供全新的使用者體驗。
ChatGPT 語音與圖像功能更新
OpenAI 已為 ChatGPT 引入多模態功能，使 Plus 和 Enterprise 使用者能夠進行語音對話並分享圖像以供分析。
Hugging Face Inference for PROs
Hugging Face 為 PRO 用戶推出了 Inference for PRO，為精選的尖端模型提供加速的 API 端點，並提升了免費版 Inference API 的速率限制。
OpenAI 紅隊網絡
OpenAI 已啟動紅隊網絡，這是一個由全球領域專家組成的正式社群，負責嚴格評估 AI 模型，以在開發生命週期的各個階段識別風險並提升安全性。
Rocket Money x Hugging Face: 在生產環境中擴展波動的 ML 模型
Rocket Money 使用 Hugging Face 的 Inference API 將其交易分類系統擴展至每月超過十億筆交易，以取代舊版 regex 基礎系統。
3D 高斯溶膠簡介
3D 高斯溶膠是一種光柵化技術，能夠從少量圖像學習並實時渲染出寫實的 3D 場景。
Hugging Face 物件偵測排行榜
Hugging Face 發布了一個使用 COCO 風格指標的物件偵測排行榜，對開源模型進行排名，並發表了一篇部落格，解釋如何計算平均精度 (Average Precision) 和平均召回率 (Average Recall)，以及哪些因素可能影響結果。
在生產環境中優化 LLMs：精度、注意力與架構
Hugging Face 闡釋了高效部署 LLM 的關鍵技術，著重於低精度量化、Flash Attention 以提升記憶體效率，以及如 RoPE、ALiBi、MQA 和 GQA 等架構優化。
OpenAI 透過新都柏林辦事處建立歐洲存在
OpenAI 在愛爾蘭都柏林開設新辦事處，以擴展其歐洲業務、信任與安全、安全工程以及法律職能。
使用 PyTorch FSDP 微調 Llama 2 70B
Hugging Face 展示了如何使用 PyTorch Fully Sharded Data Parallelism (FSDP) 和 Accelerate 來微調 Llama 2 70B，以克服 CPU RAM 瓶頸並優化 VRAM 使用率。
介紹 Würstchen：用於圖像生成的快速擴散
Würstchen 是一種快速且高效的文本到圖像擴散模型，透過實現 42x 空間壓縮來顯著降低訓練和推理成本。
Hugging Face Transformers 量化概覽
Hugging Face 提供 bitsandbytes 和 auto-gptq 量化方案的原生支援，以便在較小的設備上進行大型模型推理，並實現高效的適配器微調。
SafeCoder 與閉源代碼助手
Hugging Face 推出 SafeCoder，一種基於開源 StarCoder 模型的企業級代碼助手，相較於閉源替代方案，優先考慮透明度、客製化和資料隱私。
使用 T2I-Adapters 進行 SDXL 的高效可控生成
Hugging Face 與 TencentARC 推出 T2I-Adapter-SDXL，一個輕量級即插即用模型，可透過素描和深度圖等外部訊號對 Stable Diffusion XL (SDXL) 生成進行精確控制，其計算開銷遠低於 ControlNet。
OpenAI DevDay 公告
OpenAI 宣布其首屆開發者會議 DevDay，定於 2023 年 11 月 6 日在舊金山舉行，以預覽新工具並與開發者社群互動。
Falcon 180B 發佈說明
TII 已發佈 Falcon 180B，這是目前最大的開放可用語言模型，擁有 1800 億個參數，並在 3.5 兆個 token 上進行訓練，足以與 PaLM-2 等專有模型競爭。
Fetch 案例研究：使用 Amazon SageMaker 與 Hugging Face 將 ML 處理延遲降低 50%
Fetch 透過將其 ML 管線遷移至 Amazon SageMaker 與 Hugging Face，將收據掃描的 ML 處理延遲降低了 50%，並將文件理解模型的準確度提高了 200%。
OpenAI 教學與 AI 指南
OpenAI 提供實用框架和提示模板，供教育工作者使用 AI 進行語言支援、課程規劃和個人化輔導。
AudioLDM 2 優化指南：使用 Hugging Face Diffusers 縮短推論時間
Hugging Face 展示了如何透過程式碼與模型優化，將 AudioLDM 2 的推論時間縮短 10 倍以上，使 10 秒音訊樣本的生成時間降至 1 秒以內。
ChatGPT Enterprise 發布說明
OpenAI 已推出 ChatGPT Enterprise，為組織提供企業級安全、隱私以及無限制、高速存取 GPT-4 的能力。
Hugging Face Hub Git 認證變更
Hugging Face 已於 2023 年 10 月 1 日棄用基於密碼的 Git 認證，要求使用者改用個人存取權杖或 SSH 金鑰以提升安全性。
Code Llama 發布說明
Code Llama 是一系列基於 Llama 2 的開放存取模型，專門用於代碼任務，支援填充以及最多達 100,000 個 token 的長上下文窗口。
OpenAI 與 Scale 合作進行企業級微調
OpenAI 已與 Scale 合作，為企業提供專業的數據豐富化與模型評估支援，以進行 GPT-3.5 Turbo 和 GPT-4 的微調。
Hugging Face AutoGPTQ 與 Transformers 整合
Hugging Face 已將 AutoGPTQ 函式庫整合至 Transformers 中，實現了將 LLM 量化為 8、4、3 或 2 位元精度，在 4-bit 下能以微乎其微的精度損失來降低記憶體需求。
GPT-3.5 Turbo 微調與 API 更新
OpenAI 已發布 GPT-3.5 Turbo 的微調功能，使開發者能夠自訂模型效能、提升輸出可靠性並降低提示詞成本。
IDEFICS: 開放再現最先進視覺語言模型
Hugging Face 已發布 IDEFICS，一種基於 Flamingo 架構的開放存取視覺語言模型，支援 9B 和 80B 參數規模的交錯圖像與文字輸入。
Hugging Face SafeCoder 公告
Hugging Face 已推出 SafeCoder，一種自託管的企業級程式碼助理解決方案，使公司能夠在其自身安全基礎設施內建置和部署專屬的 Code LLMs。
OpenAI 收購 Global Illumination
OpenAI 已收購創意工具與基礎設施公司 Global Illumination，將其團隊整合至包含 ChatGPT 在內的核心產品開發中。