Qwen2-Math 发布说明
Qwen 发布了 Qwen2-Math，一系列专门用于数学的 LLM（1.5B、7B 和 72B），在数学基准测试中超越了包括 GPT-4o 在内的多个闭源模型。
乐天与OpenAI合作：利用生成式AI获取客户洞察
乐天正在利用OpenAI的API、RAG和Code Interpreter，将非结构化数据转化为自动化客服、评论摘要和B2B市场洞察。
OpenAI 结构化输出 API 功能公告
OpenAI 于 2024 年 8 月 6 日推出了结构化输出，这是一项新的 API 功能，能够保证模型响应完全匹配开发者提供的 JSON Schema，提升面向数据的应用的可靠性。
Hugging Face TextImage Augmentation 管道发布
Hugging Face 和 Albumentations AI 发布了一个 TextImage Augmentation 管道，能够联合修改文档图像及其文本，实现真实的合成数据生成，并在有限的文档数据集上对视觉‑语言模型进行稳健的微调。
Hugging Face 2024 安全功能亮点
Hugging Face 详细阐述了其 2024 年的安全格局，推出了一套面向所有用户的默认防护措施以及面向 Enterprise Hub 用户的高级治理控制。
Google 发布 Gemma 2 2B、ShieldGemma 和 Gemma Scope
Google 发布了 Gemma 2 2B、ShieldGemma 安全分类器和 Gemma Scope 稀疏自编码器，扩展了开源大语言模型的能力、审查工具和可解释性资源。
Quanto 量化削减 Transformer 扩散管线的内存占用
Hugging Face 的量化（Quanto）将 Transformer 扩散模型的 GPU 内存从约 12 GB 降至约 5 GB，且对延迟和质量的影响极小。
Hugging Face NVIDIA NIM API（无服务器）发布与停用
Hugging Face 为 Enterprise Hub 用户推出了 NVIDIA NIM API（无服务器），通过兼容 OpenAI 的 API，实现了在 NVIDIA DGX Cloud H100 GPU 上按需付费的开源大语言模型无服务器推理。
LAVE：使用大型语言模型对 Docmatix 进行零样本 VQA 评估
Hugging Face 推出 LAVE（大型语言模型辅助的 VQA 评估），旨在解决传统 VQA 指标的僵硬性，在对 Docmatix 数据集的零样本性能评估中实现了约 50% 的准确率提升。
OpenAI SearchGPT 原型发布公告
OpenAI 推出了 SearchGPT，这一临时原型将 AI 模型与实时网络信息相结合，提供带有明确来源引用的直接答案。
OpenAI 基于规则的奖励用于模型安全
OpenAI 推出了基于规则的奖励（RBR），一种使用明确、逐步规则来对齐 AI 安全行为的方法，无需大量人工数据收集。
Llama 3.1 发布说明：多语言、长上下文和 405B 模型
Meta 已发布 Llama 3.1，提供 8B、70B 和 405B 大小的模型，具备 128K 上下文长度、对 8 种语言的多语言支持，以及允许合成数据生成的宽松许可证。
使用 Core ML 运行 Mistral 7B
Hugging Face 演示了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能运行 Mistral 7B，并通过 4 位块状量化将模型大小压缩至 4GB 以下。
GPT-4o mini 发布说明 / 新功能
OpenAI 已发布 GPT-4o mini，这是一款成本极低的小模型，在关键推理和多模态基准上超越了 GPT-3.5 Turbo 以及其他小模型。
Docmatix 数据集发布
Hugging Face 发布了 Docmatix，这是一套文档视觉问答（DocVQA）数据集，包含 240 万张图像和 950 万个问答对，规模比之前的数据集提升了 240 倍。
TGI Multi-LoRA：一次部署，服务 30 个模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服务，使组织能够部署单一基础模型并动态提供数十个专用微调适配器，从而降低成本和运营复杂性。
ChatGPT 企业合规与管理工具更新
OpenAI 推出了合规 API、用于自动化用户管理的 SCIM，以及细粒度的 GPT 控制，帮助企业客户满足监管要求并安全地扩展 AI 部署。
OpenAI 证明者‑验证者游戏提升语言模型输出的可读性
OpenAI 宣布了一种证明者‑验证者游戏训练方法，使强大的语言模型生成的解答能够被较弱的模型验证，从而提升正确性和人类可读性。
Argilla SDK 聊天机器人（使用 distilabel）– 端到端教程
Hugging Face 发布了一个教程，展示如何使用 distilabel 生成的合成数据、微调的嵌入、lancedb 向量存储以及在 Spaces 部署的 Gradio 应用来构建 Argilla 2.0 聊天机器人。
SmolLM 发布：高性能小语言模型
Hugging Face 推出了 SmolLM，这是一个由最先进的小语言模型（135M、360M 和 1.7B 参数）组成的家族，这些模型是在精心策划的高质量数据集上训练而成的。
NuminaMath 7B TIR 获得 AIMO 进步奖 – 技术回顾
NuminaMath 7B TIR 通过解答 50 道隐藏数学题中的 29 道，赢得了首届 AIMO 进步奖，展示了两阶段微调方案、大规模高质量数学数据以及自洽+工具集成推理推断策略的强大威力。
OpenAI 和 洛斯阿拉莫斯国家实验室 生物科学研究 合作伙伴关系
OpenAI 和 洛斯阿拉莫斯国家实验室 已合作 评估 多模态 前沿 AI 模型（如 GPT-4o）如何 在 实验室 物理 环境 中 安全 地 辅助 科学家 以 推进 生物科学 研究。
Hugging Face 使用 Presidio 进行 PII 检测实验
Hugging Face 正在尝试将 Microsoft Presidio 集成到 Dataset Hub，以提供自动 PII 检测报告，帮助从业者识别和缓解 ML 数据集中的隐私风险。
TRL 为视觉语言模型添加直接偏好优化支持
Hugging Face 在 TRL 库中为视觉语言模型添加了直接偏好优化（DPO）支持，使得可以使用偏好数据对 Idefics‑2 等模型进行微调，并通过 bfloat16 量化和 LoRA 适配器在单个 GPU 上完成训练。
Hugging Face 与 KerasHub 集成
Hugging Face 与 KerasHub 现在共享模型保存格式，使 KerasHub 用户能够直接加载来自 Hugging Face Hub 的超过 30 万个 Transformers 库模型。
Google Cloud TPU 在 Hugging Face 推理端点和 Spaces 上的使用
Hugging Face 已将 Google Cloud TPU v5e 支持集成到推理端点和 Spaces 中，使用户能够使用成本效益高且性能强大的硬件部署和扩展 AI 模型。
Banque des Territoires、Polyconseil 与 Hugging Face 为 EduRénov 项目部署主权 RAG 解决方案
Hugging Face、Polyconseil 与 Banque des Territoires 推出了一套主权、开源的 RAG 系统，用于自动化法国 EduRénov 学校改造项目的邮件支持，确保数据驻留，同时在公共政策领域扩展生成式 AI 的规模。
Hugging Face 数据集中心搜索功能更新
Hugging Face 引入了四个全新搜索过滤器——模态、规模、格式和库兼容性，以提升 Dataset Hub 上超过 180,000 个公共数据集的可发现性。
在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 和 MILA 已针对 Intel Gaudi 2 加速器优化了 ProtST 多模态蛋白质语言模型，实现了相较于 NVIDIA A100 GPU 高达 2.92 倍的微调加速。
Hugging Face Transformers 代码代理 GAIA 基准测试结果
Hugging Face 使用基于 transformers.agents 库构建的代码代理在 GAIA 基准测试中取得了最高排名，证明了代码化操作比基于 JSON 的工具调用更高效、更有效。
使用 GPT-4 查找 GPT-4 的错误
OpenAI 推出了 CriticGPT，这是一款基于 GPT-4 的模型，旨在识别 ChatGPT 代码输出中的错误，以在 RLHF 过程中帮助人工训练师。
OpenAI 与 TIME 战略内容合作伙伴关系
OpenAI 与 TIME 已达成多年期的战略合作伙伴关系，将 TIME 长达 101 年的新闻档案整合到 OpenAI 产品中，并为 TIME 提供 OpenAI 技术以用于产品开发。
Google Gemma 2 发布说明
Google 已发布 Gemma 2，这是一系列开放权重的大语言模型，提供 9B 和 27B 参数规模，采用蒸馏和注意力机制等技术创新以提升性能。
XLSCOUT ParaEmbed 2.0 发布
XLSCOUT 已发布 ParaEmbed 2.0，这是一款在专家策划的专利数据上微调的专有嵌入模型，准确率比 ParaEmbed 1.0 提高了 23%。
Hugging Face伦理与社会通讯 #6：数据质量的重要性
Hugging Face概述了一种整体且负责任的数据质量方法，强调高质量数据必须适合其预期用途，以确保AI模型性能、公平性和科学可重复性。
微调 Microsoft Florence-2 用于 DocVQA
Hugging Face 演示了如何在 DocVQA 数据集上微调微软的 Florence-2 视觉语言模型，经过七个 epoch 后，验证相似度从 0 提升至 57.0。
OpenAI 收购 Rockset 以实现实时数据检索
OpenAI 收购了实时分析数据库 Rockset，以将其高性能索引和查询能力整合到 OpenAI 的检索基础设施中。
OpenAI 网络安全资助计划：支持 AI 驱动的防御研究
OpenAI 强调了其网络安全资助计划中的多个项目，旨在提升 LLM 的可信度、自动化漏洞检测以及开发自主网络防御代理。
OpenAI 一致性模型：快速单步生成式 AI
OpenAI 推出了“一致性模型”，这是一类全新的生成模型家族，通过直接将噪声映射到数据，实现高质量的单步生成，克服了扩散模型缓慢的迭代采样过程。
OpenAI 对不良内容检测的整体方法
OpenAI 推出了一套整体框架，用于构建稳健的自然语言分类系统，以检测包括性内容、暴力和骚扰在内的不良内容，该框架的表现优于现成模型。
Hugging Face 数据共建倡议
Hugging Face 与 Argilla 发起了 “Data Is Better Together”（DIBT）倡议，旨在赋能开源社区共同创建高质量、多样且包容的机器学习数据集。
Prezi 案例研究：通过 Hugging Face 专家支持加速机器学习路线图
Prezi 正在利用 Hugging Face 专家支持计划和 Inference Endpoints，将高效的开源多模态模型集成到其 Prezi AI 演示生成工具中。
Paf 通过 ChatGPT Enterprise 和自定义 GPT 提升开发者生产力
游戏公司 Paf 部署了 ChatGPT Enterprise 和超过 85 个自定义 GPT，以自动化样板代码并加速开发者培训，实现相当于 12 名全职员工的产出。
Clay：通过代理式销售潜客实现10倍增长
Clay 使用 GPT-4 为 Claygent 提供动力，这是一款为 go-to-market 团队自动化网页研究和数据丰富的 AI 代理，实现了年同比 10 倍增长。
BigCodeBench：用于复杂 Python 代码生成的新基准
Hugging Face 已发布 BigCodeBench，这是一套包含 1,140 个函数级任务的基准，旨在评估 LLM 在实用编程和多库使用方面的能力，解决了 HumanEval 的简单性和污染问题。
Color Health 使用 GPT-4o 加速癌症护理和诊断工作流程
Color Health 开发了一款由 GPT-4o 驱动的副驾驶应用，帮助临床医生识别缺失的诊断项目并制定个性化的癌症筛查和治疗方案。
OpenAI 任命退休美国陆军将军 Paul M. Nakasone 为董事会成员
OpenAI 任命退休美国陆军将军 Paul M. Nakasone 为董事会成员，以在 AI 能力迈向通用人工智能（AGI）的过程中加强公司的网络安全姿态和安全监督。
Hugging Face Accelerate：统一 DeepSpeed 与 FSDP 的精度
Hugging Face Accelerate 0.30.0 引入了对 PyTorch FSDP 的自动上转，以使其精度处理与 DeepSpeed 对齐，从而实现两种后端之间的无缝切换且不损失收敛性。
Stable Diffusion 3 Medium 与 Diffusers 的集成
Hugging Face 已将 Stable Diffusion 3 Medium（2B 参数）集成到 Diffusers 库中，引入了多模态扩散 Transformer（MMDiT）和校正流匹配，以提升文本到图像的合成效果。
Hugging Face TRL RLOO 训练器发布
Hugging Face 在 TRL 中推出了 RLOO（REINFORCE Leave One-Out）训练器，这是一种在线 RLHF 算法，使用的显存（vRAM）减少 50-70%，收敛速度比 PPO 快至 3 倍，同时在性能上保持竞争力。