亚利桑那州立大学整合 ChatGPT Edu 实现个性化教育
亚利桑那州立大学已在超过 200 项目中部署 ChatGPT Edu，以实现个性化学习、推动研究并提升其 181,000 名学生的运营效率。
Hugging Face 博客文章突显五个被低估的 Hub 工具及一个免费语义搜索用例
Hugging Face 宣布了五个被低估的 Hub 工具——ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas，并展示了如何将它们组合成一个免费、自动更新的 Reddit 数据语义搜索应用。
Hugging Face 训练效率：使用 Flash Attention 2 的打包
Hugging Face 引入了面向边界的打包用于指令微调示例，在配合 Flash Attention 2 使用时，可实现最高 2 倍的训练吞吐量提升和 20% 的峰值内存降低。
OpenAI 与 Condé Nast 内容整合合作
OpenAI 与 Condé Nast 合作，将 Vogue、The New Yorker 等品牌的内容整合到 ChatGPT 和 SearchGPT 原型中，以提升信息发现和来源归属。
Upwork OpenAI 集成与 AI 优先策略
Upwork 已转向以 OpenAI 为中心的生态系统，将 GPT-4o 和 GPT-3.5 融入其市场功能、内部欺诈检测以及通过 ChatGPT Enterprise 提升企业生产力。
OpenAI 推出 GPT‑4o 微调功能，提供免费令牌配额并宣布平台下线
OpenAI 推出 GPT‑4o 微调功能，使开发者能够使用极少的数据定制模型，并提供免费训练令牌至 9 月 23 日，同时宣布平台将在 2026 年 5 月 8 日后对新用户关闭。
在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 提供了一份指南，介绍如何使用文本生成推理（TGI）和 A3 机器系列在 Google Cloud Vertex AI 上以编程方式部署 Meta Llama 3.1 405B 的 FP8 量化版本。
OpenAI 打击伊朗影响行动 Storm-2035
OpenAI 已封禁一批被伊朗影响行动 Storm-2035 用于在 2024 年美国大选及其他全球事件中生成政治内容的 ChatGPT 账户。
Indeed 基于上下文的职位匹配与 OpenAI
Indeed 集成了 OpenAI 的 GPT 模型，为职位推荐提供个性化解释，导致已启动的职位申请增加了 20%，下游成功率提升了 13%。
OpenAI 与大都会艺术博物馆合作：唤醒沉睡的美人
OpenAI 与大都会艺术博物馆的服装学院合作，创建了一个基于精选历史数据集的 AI 聊天体验，使参观者能够与历史人物 Natalie Potter 互动。
Hugging Face Infini-Attention 复现分析
Hugging Face 对 Infini-Attention 的复现尝试发现，尽管可以改进门控收敛，但随着记忆压缩的增加，方法的性能会下降，且仍不如 Ring Attention、YaRN 或 RoPE scaling 可靠。
OpenAI SWE-bench Verified 发布：经人工验证的基准提升软件工程评估
OpenAI 发布了 SWE‑bench Verified，这是 SWE‑bench 软件工程基准的经人工验证的 500 条样本子集，去除了模糊的问题和不公平的测试，使得对 AI 模型编码能力的评估更加可靠；GPT‑4o 在这些样本中解决率为 33.2%，是原基准得分的两倍多。
ggml 简介
ggml 是一个轻量级的 C/C++ 机器学习库，针对 Transformer 推理和跨多种硬件后端的设备端 LLM 执行进行了优化。
Hugging Face 统一工具使用 API
Hugging Face 已推出统一的工具使用 API，使开发者能够使用相同的代码在 Mistral、Cohere、NousResearch 和 Llama 模型之间实现工具调用。
Falcon Mamba 7B 发布说明
技术创新研究所（TII）发布了 Falcon Mamba 7B，这是首个大规模纯状态空间语言模型（SSLM），其性能可与最先进的 Transformer 模型相匹配，同时消除了基于注意力的内存扩展问题。
Qwen2-Audio 发布说明
Qwen2-Audio 是一种音频语言模型，能够进行语音聊天和音频分析，支持超过八种语言和方言，在多个基准测试中超越了之前的最先进性能。
Zico Kolter 加入 OpenAI 董事会
OpenAI 任命 Zico Kolter——卡内基梅隆大学计算机科学教授兼机器学习系主任——加入其董事会及安全与安保委员会。
Hugging Face 收购 XetHub 以升级 Hub 存储和协作
Hugging Face 收购 XetHub，以用更高效的存储后端取代 Git LFS，实现增量更新、万亿参数模型支持以及对海量 AI 数据集的更佳协作。
GPT‑4o 系统卡 – 能力、安全缓解措施与风险评估
OpenAI 发布了 GPT‑4o 系统卡，详细说明了该全能模型的能力、安全缓解措施以及中等的整体风险评级。
Qwen2-Math 发布说明
Qwen 发布了 Qwen2-Math，一系列专门用于数学的 LLM（1.5B、7B 和 72B），在数学基准测试中超越了包括 GPT-4o 在内的多个闭源模型。
乐天与OpenAI合作：利用生成式AI获取客户洞察
乐天正在利用OpenAI的API、RAG和Code Interpreter，将非结构化数据转化为自动化客服、评论摘要和B2B市场洞察。
OpenAI 结构化输出 API 功能公告
OpenAI 于 2024 年 8 月 6 日推出了结构化输出，这是一项新的 API 功能，能够保证模型响应完全匹配开发者提供的 JSON Schema，提升面向数据的应用的可靠性。
Hugging Face TextImage Augmentation 管道发布
Hugging Face 和 Albumentations AI 发布了一个 TextImage Augmentation 管道，能够联合修改文档图像及其文本，实现真实的合成数据生成，并在有限的文档数据集上对视觉‑语言模型进行稳健的微调。
Hugging Face 2024 安全功能亮点
Hugging Face 详细阐述了其 2024 年的安全格局，推出了一套面向所有用户的默认防护措施以及面向 Enterprise Hub 用户的高级治理控制。
Google 发布 Gemma 2 2B、ShieldGemma 和 Gemma Scope
Google 发布了 Gemma 2 2B、ShieldGemma 安全分类器和 Gemma Scope 稀疏自编码器，扩展了开源大语言模型的能力、审查工具和可解释性资源。
Quanto 量化削减 Transformer 扩散管线的内存占用
Hugging Face 的量化（Quanto）将 Transformer 扩散模型的 GPU 内存从约 12 GB 降至约 5 GB，且对延迟和质量的影响极小。
Hugging Face NVIDIA NIM API（无服务器）发布与停用
Hugging Face 为 Enterprise Hub 用户推出了 NVIDIA NIM API（无服务器），通过兼容 OpenAI 的 API，实现了在 NVIDIA DGX Cloud H100 GPU 上按需付费的开源大语言模型无服务器推理。
LAVE：使用大型语言模型对 Docmatix 进行零样本 VQA 评估
Hugging Face 推出 LAVE（大型语言模型辅助的 VQA 评估），旨在解决传统 VQA 指标的僵硬性，在对 Docmatix 数据集的零样本性能评估中实现了约 50% 的准确率提升。
OpenAI SearchGPT 原型发布公告
OpenAI 推出了 SearchGPT，这一临时原型将 AI 模型与实时网络信息相结合，提供带有明确来源引用的直接答案。
OpenAI 基于规则的奖励用于模型安全
OpenAI 推出了基于规则的奖励（RBR），一种使用明确、逐步规则来对齐 AI 安全行为的方法，无需大量人工数据收集。
Llama 3.1 发布说明：多语言、长上下文和 405B 模型
Meta 已发布 Llama 3.1，提供 8B、70B 和 405B 大小的模型，具备 128K 上下文长度、对 8 种语言的多语言支持，以及允许合成数据生成的宽松许可证。
使用 Core ML 运行 Mistral 7B
Hugging Face 演示了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能运行 Mistral 7B，并通过 4 位块状量化将模型大小压缩至 4GB 以下。
GPT-4o mini 发布说明 / 新功能
OpenAI 已发布 GPT-4o mini，这是一款成本极低的小模型，在关键推理和多模态基准上超越了 GPT-3.5 Turbo 以及其他小模型。
Docmatix 数据集发布
Hugging Face 发布了 Docmatix，这是一套文档视觉问答（DocVQA）数据集，包含 240 万张图像和 950 万个问答对，规模比之前的数据集提升了 240 倍。
TGI Multi-LoRA：一次部署，服务 30 个模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服务，使组织能够部署单一基础模型并动态提供数十个专用微调适配器，从而降低成本和运营复杂性。
ChatGPT 企业合规与管理工具更新
OpenAI 推出了合规 API、用于自动化用户管理的 SCIM，以及细粒度的 GPT 控制，帮助企业客户满足监管要求并安全地扩展 AI 部署。
OpenAI 证明者‑验证者游戏提升语言模型输出的可读性
OpenAI 宣布了一种证明者‑验证者游戏训练方法，使强大的语言模型生成的解答能够被较弱的模型验证，从而提升正确性和人类可读性。
Argilla SDK 聊天机器人（使用 distilabel）– 端到端教程
Hugging Face 发布了一个教程，展示如何使用 distilabel 生成的合成数据、微调的嵌入、lancedb 向量存储以及在 Spaces 部署的 Gradio 应用来构建 Argilla 2.0 聊天机器人。
SmolLM 发布：高性能小语言模型
Hugging Face 推出了 SmolLM，这是一个由最先进的小语言模型（135M、360M 和 1.7B 参数）组成的家族，这些模型是在精心策划的高质量数据集上训练而成的。
NuminaMath 7B TIR 获得 AIMO 进步奖 – 技术回顾
NuminaMath 7B TIR 通过解答 50 道隐藏数学题中的 29 道，赢得了首届 AIMO 进步奖，展示了两阶段微调方案、大规模高质量数学数据以及自洽+工具集成推理推断策略的强大威力。
OpenAI 和 洛斯阿拉莫斯国家实验室 生物科学研究 合作伙伴关系
OpenAI 和 洛斯阿拉莫斯国家实验室 已合作 评估 多模态 前沿 AI 模型（如 GPT-4o）如何 在 实验室 物理 环境 中 安全 地 辅助 科学家 以 推进 生物科学 研究。
Hugging Face 使用 Presidio 进行 PII 检测实验
Hugging Face 正在尝试将 Microsoft Presidio 集成到 Dataset Hub，以提供自动 PII 检测报告，帮助从业者识别和缓解 ML 数据集中的隐私风险。
TRL 为视觉语言模型添加直接偏好优化支持
Hugging Face 在 TRL 库中为视觉语言模型添加了直接偏好优化（DPO）支持，使得可以使用偏好数据对 Idefics‑2 等模型进行微调，并通过 bfloat16 量化和 LoRA 适配器在单个 GPU 上完成训练。
Hugging Face 与 KerasHub 集成
Hugging Face 与 KerasHub 现在共享模型保存格式，使 KerasHub 用户能够直接加载来自 Hugging Face Hub 的超过 30 万个 Transformers 库模型。
Google Cloud TPU 在 Hugging Face 推理端点和 Spaces 上的使用
Hugging Face 已将 Google Cloud TPU v5e 支持集成到推理端点和 Spaces 中，使用户能够使用成本效益高且性能强大的硬件部署和扩展 AI 模型。
Banque des Territoires、Polyconseil 与 Hugging Face 为 EduRénov 项目部署主权 RAG 解决方案
Hugging Face、Polyconseil 与 Banque des Territoires 推出了一套主权、开源的 RAG 系统，用于自动化法国 EduRénov 学校改造项目的邮件支持，确保数据驻留，同时在公共政策领域扩展生成式 AI 的规模。
Hugging Face 数据集中心搜索功能更新
Hugging Face 引入了四个全新搜索过滤器——模态、规模、格式和库兼容性，以提升 Dataset Hub 上超过 180,000 个公共数据集的可发现性。
在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 和 MILA 已针对 Intel Gaudi 2 加速器优化了 ProtST 多模态蛋白质语言模型，实现了相较于 NVIDIA A100 GPU 高达 2.92 倍的微调加速。
Hugging Face Transformers 代码代理 GAIA 基准测试结果
Hugging Face 使用基于 transformers.agents 库构建的代码代理在 GAIA 基准测试中取得了最高排名，证明了代码化操作比基于 JSON 的工具调用更高效、更有效。
使用 GPT-4 查找 GPT-4 的错误
OpenAI 推出了 CriticGPT，这是一款基于 GPT-4 的模型，旨在识别 ChatGPT 代码输出中的错误，以在 RLHF 过程中帮助人工训练师。