OpenAI 安全實踐
OpenAI 詳細說明了用於開發與部署前沿 AI 模型的十項核心安全實踐，強調以科學方法將安全融入模型生命周期的每個階段。
Hugging Face 與 Microsoft 戰略合作更新 2024 年 5 月
Hugging Face 與 Microsoft 擴大了戰略合作，將熱門開放模型整合至 Azure Model Catalog、在 Azure 上啟用 AMD MI300X GPU 支援，並為 Hugging Face Spaces 引入 VS Code 整合。
Hugging Face 整合 AMD Instinct MI300 GPU
Hugging Face 為 AMD Instinct MI300 GPU 提供了一流的整合，使 Llama 3 70B 的推論速度提升最高可達 3 倍，微調速度提升 2 倍，相較於 MI250。
Dell Enterprise Hub: 本地 AI 部署與訓練
Hugging Face 與 Dell 推出了 Dell Enterprise Hub，這是一個平台，可簡化在 Dell 硬體上本地訓練與部署開源大型語言模型的流程。
Hugging Face Spaces 開發模式發布
Hugging Face 推出了 Spaces Dev Mode，讓 PRO 訂閱者可透過 VS Code 或 SSH 進行即時程式碼編輯，無需為每次變更執行 git 推送。
OpenAI ChatGPT 語音選擇流程
OpenAI 詳細說明了為選拔 ChatGPT 五位專業配音演員而進行的五個月選角流程，同時闡明「Sky」語音並非旨在模仿 Scarlett Johansson。
ChatGPT 資料分析改進（2024年5月）
OpenAI 為 ChatGPT 引入了資料分析的增強功能，包括直接雲端儲存整合、互動式表格以及可自訂的圖表，這些功能由 GPT-4o 提供支援。
OpenAI 與 Reddit 合作夥伴關係
OpenAI 與 Reddit 合作，將即時 Reddit 內容整合至 ChatGPT，並實施 OpenAI 的 AI 模型，以提升 Reddit 使用者與版主的功能。
Hugging Face KV 快取量化
Hugging Face 在 Transformers 函式庫中引入了 KV 快取量化，以降低長上下文文字生成的記憶體使用量，且對模型品質的影響極小。
Canva Magic Studio 與 OpenAI 的整合
Canva 已整合 OpenAI 的 GPT-4 與 API，為其 Magic Studio AI 套件提供動力，該套件已被使用超過 50 億次，以簡化非專業創作者的設計流程。
OpenAI 領導層變動：Ilya Sutskever 離職，Jakub Pachocki 任命為首席科學家
OpenAI 宣布共同創辦人 Ilya Sutskever 離開公司，並任命 Jakub Pachocki 為新任首席科學家，領導朝向 AGI 的研究工作。
介紹 Open Arabic LLM Leaderboard
Hugging Face 與科技創新研究院（Technology Innovation Institute）已推出 Open Arabic LLM Leaderboard（OALL），提供一個專門的、開放的阿拉伯語大型語言模型評估平台。
PaliGemma 視覺語言模型發布
Google 已發布 PaliGemma，這是一系列結合 SigLIP-So400m 與 Gemma-2B 的開放式視覺語言模型，可執行圖像說明、視覺問答與目標偵測等任務。
Hugging Face 與 LangChain 推出 langchain_huggingface 合作套件
Hugging Face 與 LangChain 已發布 langchain_huggingface，這是一個共同維護的合作套件，旨在簡化 Hugging Face 模型在 LangChain 生態系統中的整合。
OpenAI GPT-4o 版本說明
OpenAI 已發布 GPT-4o，一種全端訓練的全能模型，涵蓋文字、視覺與音訊，旨在實現自然的人機互動，並具有人類般的回應延遲。
OpenAI 春季更新：推出 GPT-4o
OpenAI 已發布 GPT-4o，一款能夠在音訊、視覺和文字上進行即時推理的新旗艦模型，同時將先進功能擴展至 ChatGPT 免費用戶。
OpenAI GPT-4o 發佈與 ChatGPT 免費版功能增強
OpenAI 推出了 GPT-4o，這是一款提供 GPT-4 等級智能、並在文字、語音和視覺方面提升了速度與多模態能力的旗艦模型，現在免費版與付費版用戶均可使用。
Transformers Agents 2.0 release notes / what's new
Hugging Face 推出了 Transformers Agents 2.0，這是一個模組化代理框架，其特點是具備迭代問題解決能力的代理，並在 GAIA benchmark 使用 Llama-3-70B-Instruct 展現了高性能。
Qwen-Max-0428 發布說明
Qwen 已發布 Qwen-Max-0428，一款指令微調的聊天模型，在 MT-Bench 上優於 Qwen1.5-110B-Chat，並在 Chatbot Arena 排行榜中位列前十。
使用 Intel Gaudi 2 與 Intel Xeon 建構具成本效益的企業 RAG 應用程式
Hugging Face 示範了透過 OPEA 框架結合 Intel Gaudi 2 加速卡與 Intel Xeon CPU，如何讓企業建置相較於 H100 系統具更佳每美元效能的 RAG 應用程式。
Hugging Face Enterprise Hub 現已於 AWS Marketplace 上線
Hugging Face 已將 Enterprise Hub 整合至 AWS Marketplace，讓組織能透過其 AWS 帳戶升級帳號並直接管理計費。
OpenAI 模型規範
OpenAI 已推出模型規範，這是一套由目標、規則與預設行為組成的框架，旨在標準化並透明化塑造 AI 模型在 OpenAI API 與 ChatGPT 中的行為。
OpenAI 對資料與 AI 的方法
OpenAI 正在推出 Media Manager，讓創作者能控制其內容在 AI 訓練中的使用，並闡述其多管齊下的資料來源策略，以在模型多樣性與創作者權益之間取得平衡。
OpenAI 內容來源與真實性倡議
OpenAI 正在採用 C2PA 開放標準進行數位內容認證，並開發內部工具，如圖像偵測分類器與音訊浮水印，以協助使用者辨識 AI 生成的內容。
OpenAI 與 Stack Overflow API 合作夥伴關係
OpenAI 與 Stack Overflow 合作，透過 OverflowAPI 將審核過的技術資料整合至 OpenAI 模型與 ChatGPT，同時 Stack Overflow 將使用 OpenAI 模型開發 OverflowAI。
Hugging Face 針對希伯來語 LLM 的開放排行榜
Hugging Face 已推出專為希伯來語大型語言模型（LLM）設計的開放排行榜，旨在解決低資源且形態複雜語言的挑戰，提升模型的評估與改進。
人工分析 LLM 性能排行榜於 Hugging Face
Hugging Face 已整合人工分析 LLM 性能排行榜，為 AI 工程師提供統一的指標系統，以比較超過 100 個無伺服器 LLM API 端點的品質、價格與速度。
Hugging Face 推理端點的語音辨識與說話者分割管線
Hugging Face 為在推理端點上部署結合 Whisper 語音辨識、Pyannote 說話者分割與推測解碼的模組化管線，推出了自訂推理處理器。
OpenAI 打擊「Bad Grammar」俄羅斯關聯的影響行動
OpenAI 封禁了一個名為「Bad Grammar」的俄羅斯關聯網路，該網路利用 AI 模型自動生成政治評論垃圾訊息，並在多個國家的 Telegram 上散布。
OpenAI 打擊與中國相關的影響行動「Spamouflage」
OpenAI 封禁了與名為 Spamouflage 的作業相關的帳號，該作業是一個與中國相關的影響力活動，利用 AI 生成內容並進行研究，以針對中國政府的批評者。
OpenAI 破壞俄羅斯「Doppelganger」影響行動
OpenAI 封禁了四個與俄羅斯「Doppelganger」影響行動相關的帳號群組，該行動利用 AI 產生多語言內容，目標鎖定歐洲與北美。
OpenAI 行動 Zero Zeno：與以色列相關的影響活動
OpenAI 封禁了一群由以色列政治活動公司 STOIC 操作的帳號，以阻止針對多個國家的 AI 生成影響行動。
OpenAI 打擊伊朗相關的影響行動 IUVM
OpenAI 封禁了與 IUVM 相關的帳號，IUVM 是一個伊朗相關的影響網路，利用 AI 生成並翻譯親伊朗、反美與反以色列的內容。
透過結構化生成提升提示一致性
Hugging Face 與 Dottxt 的研究顯示，使用結構化生成來限制 LLM 輸出可降低效能變異，並提升在不同提示格式與樣本順序下的排名一致性。
StarCoder2-15B-Instruct-v0.1 發行說明 / 新功能
Hugging Face 推出 StarCoder2-15B-Instruct-v0.1，這是首個完全自我對齊的程式碼大型語言模型，使用全透明且寬鬆的管線訓練，在 HumanEval 上超越 CodeLlama-70B-Instruct。
OpenAI 與《金融時報》策略夥伴關係
OpenAI 與《金融時報》已簽訂策略夥伴關係與授權協議，將屬於《金融時報》的新聞內容整合至 ChatGPT，並為《金融時報》員工提供 ChatGPT Enterprise 存取權限。
Qwen1.5-110B 版本說明 / 新功能
Qwen 已發布 Qwen1.5-110B，這是 Qwen1.5 系列中首個突破 1000 億參數的模型，提供與 Llama-3-70B 競爭的性能，並較 Qwen1.5-72B 有顯著提升。
Moderna 與 OpenAI 合作推動 AI 驅動的藥物開發
Moderna 已在全公司部署 ChatGPT Enterprise，以加速 mRNA 藥物的開發，並透過自訂 GPT 優化業務運營。
OpenAI 推出 ChatGPT 與 Whisper API
OpenAI 已發布 GPT-3.5 Turbo 與 Whisper API，為開發者提供顯著的成本降低與高效能語音轉文字功能。
GPT-4 API 一般可用性與 Completions API 停用
OpenAI 已將 GPT-4 API 向所有付費客戶普遍開放，並宣布了針對 Completions、Embeddings 與 Edits API 中舊模型的停用計畫。
OpenAI 兒童安全承諾：採用安全設計原則
OpenAI 與其他產業領導者已承諾實施安全設計原則，以減輕生成式 AI 對兒童的風險，重點在於防止兒童性虐待資料（CSAM）與剝削資料（CSEM）。
OpenAI 企業 API 功能更新 2024 年 4 月
OpenAI 推出了全新的企業級安全、行政控制、Assistants API 強化功能與成本管理選項，以支援大型組織的 AI 解決方案擴展。
Hugging Face 開放式思考鏈領導榜
Hugging Face 推出了開放式思考鏈領導榜，用於衡量在各種大型語言模型上，透過思考鏈提示在具挑戰性的推理任務中所帶來的具體準確率提升。
Jack of All Trades (JAT) 多用途變換器代理
Hugging Face 推出 Jack of All Trades (JAT)，一個基於單一變換器的代理，能在 Atari、BabyAI、Meta-World 與 MuJoCo 環境中執行多樣的序列決策任務。
OpenAI 指令層級：優先處理特權指令以防止提示注入
OpenAI 引入了一個指令層級，訓練大型語言模型優先處理系統提示而非不可信的使用者輸入，顯著降低了對提示注入與越獄攻擊的脆弱性。
開放醫療大型語言模型排行榜：醫療領域大型語言模型基準測試
Hugging Face 推出了開放醫療大型語言模型排行榜，這是一個標準化平台，用於評估與比較大型語言模型在各種醫療資料集上的表現，以提升可靠性與患者安全。
Meta Llama 3 發布說明
Meta 已發布 Llama 3，這是一個開放存取的 LLM 系列，提供 8B 與 70B 參數模型，具備改進的分詞與在 15 兆令牌上進行的訓練。
CodeQwen1.5 版本說明
Qwen 發布了 CodeQwen1.5-7B，一款支援 92 種程式語言與 64K 令牌上下文視窗的開源程式碼大型語言模型，以提升開發者生產力。
Ryght 案例研究：使用 Hugging Face 建構生命科學生成式 AI 平台
Ryght 已推出 Ryght Preview，一個面向醫療保健與生命科學的企業級生成式 AI 平台，利用 Hugging Face 的專家支援、TGI 與 TEI，提供安全、彈性且高效能的 AI 助手。
在 Hugging Face 端點上執行隱私保護推論
Hugging Face 與 Zama 已經實現了透過 Hugging Face 端點部署全同態加密（FHE）模型，使用者可以在加密資料上執行機器學習推論，而無需解密。