LAVE：使用大型语言模型对 Docmatix 进行零样本 VQA 评估
Hugging Face 推出 LAVE（大型语言模型辅助的 VQA 评估），旨在解决传统 VQA 指标的僵硬性，在对 Docmatix 数据集的零样本性能评估中实现了约 50% 的准确率提升。
Llama 3.1 发布说明：多语言、长上下文和 405B 模型
Meta 已发布 Llama 3.1，提供 8B、70B 和 405B 大小的模型，具备 128K 上下文长度、对 8 种语言的多语言支持，以及允许合成数据生成的宽松许可证。
使用 Core ML 运行 Mistral 7B
Hugging Face 演示了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能运行 Mistral 7B，并通过 4 位块状量化将模型大小压缩至 4GB 以下。
Docmatix 数据集发布
Hugging Face 发布了 Docmatix，这是一套文档视觉问答（DocVQA）数据集，包含 240 万张图像和 950 万个问答对，规模比之前的数据集提升了 240 倍。
TGI Multi-LoRA：一次部署，服务 30 个模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服务，使组织能够部署单一基础模型并动态提供数十个专用微调适配器，从而降低成本和运营复杂性。
Argilla SDK 聊天机器人（使用 distilabel）– 端到端教程
Hugging Face 发布了一个教程，展示如何使用 distilabel 生成的合成数据、微调的嵌入、lancedb 向量存储以及在 Spaces 部署的 Gradio 应用来构建 Argilla 2.0 聊天机器人。
SmolLM 发布：高性能小语言模型
Hugging Face 推出了 SmolLM，这是一个由最先进的小语言模型（135M、360M 和 1.7B 参数）组成的家族，这些模型是在精心策划的高质量数据集上训练而成的。
NuminaMath 7B TIR 获得 AIMO 进步奖 – 技术回顾
NuminaMath 7B TIR 通过解答 50 道隐藏数学题中的 29 道，赢得了首届 AIMO 进步奖，展示了两阶段微调方案、大规模高质量数学数据以及自洽+工具集成推理推断策略的强大威力。
Hugging Face 使用 Presidio 进行 PII 检测实验
Hugging Face 正在尝试将 Microsoft Presidio 集成到 Dataset Hub，以提供自动 PII 检测报告，帮助从业者识别和缓解 ML 数据集中的隐私风险。
TRL 为视觉语言模型添加直接偏好优化支持
Hugging Face 在 TRL 库中为视觉语言模型添加了直接偏好优化（DPO）支持，使得可以使用偏好数据对 Idefics‑2 等模型进行微调，并通过 bfloat16 量化和 LoRA 适配器在单个 GPU 上完成训练。
Hugging Face 与 KerasHub 集成
Hugging Face 与 KerasHub 现在共享模型保存格式，使 KerasHub 用户能够直接加载来自 Hugging Face Hub 的超过 30 万个 Transformers 库模型。
Google Cloud TPU 在 Hugging Face 推理端点和 Spaces 上的使用
Hugging Face 已将 Google Cloud TPU v5e 支持集成到推理端点和 Spaces 中，使用户能够使用成本效益高且性能强大的硬件部署和扩展 AI 模型。
Banque des Territoires、Polyconseil 与 Hugging Face 为 EduRénov 项目部署主权 RAG 解决方案
Hugging Face、Polyconseil 与 Banque des Territoires 推出了一套主权、开源的 RAG 系统，用于自动化法国 EduRénov 学校改造项目的邮件支持，确保数据驻留，同时在公共政策领域扩展生成式 AI 的规模。
Hugging Face 数据集中心搜索功能更新
Hugging Face 引入了四个全新搜索过滤器——模态、规模、格式和库兼容性，以提升 Dataset Hub 上超过 180,000 个公共数据集的可发现性。
在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 和 MILA 已针对 Intel Gaudi 2 加速器优化了 ProtST 多模态蛋白质语言模型，实现了相较于 NVIDIA A100 GPU 高达 2.92 倍的微调加速。
Hugging Face Transformers 代码代理 GAIA 基准测试结果
Hugging Face 使用基于 transformers.agents 库构建的代码代理在 GAIA 基准测试中取得了最高排名，证明了代码化操作比基于 JSON 的工具调用更高效、更有效。
Google Gemma 2 发布说明
Google 已发布 Gemma 2，这是一系列开放权重的大语言模型，提供 9B 和 27B 参数规模，采用蒸馏和注意力机制等技术创新以提升性能。
XLSCOUT ParaEmbed 2.0 发布
XLSCOUT 已发布 ParaEmbed 2.0，这是一款在专家策划的专利数据上微调的专有嵌入模型，准确率比 ParaEmbed 1.0 提高了 23%。
Hugging Face伦理与社会通讯 #6：数据质量的重要性
Hugging Face概述了一种整体且负责任的数据质量方法，强调高质量数据必须适合其预期用途，以确保AI模型性能、公平性和科学可重复性。
微调 Microsoft Florence-2 用于 DocVQA
Hugging Face 演示了如何在 DocVQA 数据集上微调微软的 Florence-2 视觉语言模型，经过七个 epoch 后，验证相似度从 0 提升至 57.0。
Hugging Face 数据共建倡议
Hugging Face 与 Argilla 发起了 “Data Is Better Together”（DIBT）倡议，旨在赋能开源社区共同创建高质量、多样且包容的机器学习数据集。
Prezi 案例研究：通过 Hugging Face 专家支持加速机器学习路线图
Prezi 正在利用 Hugging Face 专家支持计划和 Inference Endpoints，将高效的开源多模态模型集成到其 Prezi AI 演示生成工具中。
BigCodeBench：用于复杂 Python 代码生成的新基准
Hugging Face 已发布 BigCodeBench，这是一套包含 1,140 个函数级任务的基准，旨在评估 LLM 在实用编程和多库使用方面的能力，解决了 HumanEval 的简单性和污染问题。
Hugging Face Accelerate：统一 DeepSpeed 与 FSDP 的精度
Hugging Face Accelerate 0.30.0 引入了对 PyTorch FSDP 的自动上转，以使其精度处理与 DeepSpeed 对齐，从而实现两种后端之间的无缝切换且不损失收敛性。
Stable Diffusion 3 Medium 与 Diffusers 的集成
Hugging Face 已将 Stable Diffusion 3 Medium（2B 参数）集成到 Diffusers 库中，引入了多模态扩散 Transformer（MMDiT）和校正流匹配，以提升文本到图像的合成效果。
Hugging Face TRL RLOO 训练器发布
Hugging Face 在 TRL 中推出了 RLOO（REINFORCE Leave One-Out）训练器，这是一种在线 RLHF 算法，使用的显存（vRAM）减少 50-70%，收敛速度比 PPO 快至 3 倍，同时在性能上保持竞争力。
Hugging Face 嵌入容器 for Amazon SageMaker 发布
Hugging Face 已发布正式可用（GA）的 Amazon SageMaker 嵌入容器，该容器由 Text Embedding Inference (TEI) 提供动力，用于高性能部署开源嵌入模型。
Hugging Face Transformers 文档重新设计
Hugging Face 正在重新设计 Transformers 文档，以从僵化的增量结构转变为面向产品开发者的代码优先、整体整合的体验。
人工分析文本到图像排行榜与竞技场发布
Hugging Face 推出了人工分析文本到图像排行榜与竞技场，利用超过 45,000 票的人类偏好数据，对开源和专有图像生成模型进行排名。
Hugging Face NPC-Playground：在 3D 环境中集成 LLM 驱动的 NPC
Hugging Face 推出 NPC-Playground，这是一款使用 Cubzh 和 Gigax 的 3D 演示，通过函数调用和 Lua 脚本实现逼真的 LLM 驱动 NPC 交互。
Intel Gaudi 辅助生成支持
Hugging Face 已将辅助生成（投机采样）集成到 Optimum Habana 中，使基于 Intel Gaudi 处理器的大型 Transformer 模型实现最高约 2 倍的加速。
Hugging Face Spaces 密钥安全更新
Hugging Face 披露了一起安全事件，涉及未经授权访问 Spaces 密钥的一个子集，导致受影响的令牌被撤销，并过渡到使用细粒度访问令牌。
文本生成推理基准测试
Hugging Face 推出了一款文本生成推理（TGI）基准测试工具，帮助开发者分析吞吐量与延迟之间的权衡，以优化大语言模型部署的成本和性能。
使用 Sentence Transformers 进行嵌入模型的训练与微调
Hugging Face 提供了使用 Sentence Transformers 库训练和微调嵌入模型的完整指南，适用于语义搜索、RAG 等任务，并引入了全新的 SentenceTransformerTrainer。
Falcon 2 11B 发布说明
TII 已发布 Falcon 2 11B，这是一系列更小且高性能的模型，包括在超过 5 万亿标记上训练的预训练 LLM 和视觉语言模型（VLM）。
CyberSecEval 2：评估大型语言模型的网络安全风险
Hugging Face 和 Meta 推出了 CyberSecEval 2，这是一套用于评估 LLM 对代码解释器滥用、攻击性网络安全能力以及提示注入攻击易感性的综合框架。
Hugging Face AWS Inferentia2 集成
Hugging Face 已扩展对 AWS Inferentia2 的支持，使得可以通过 Amazon SageMaker 部署超过 100,000 个模型，并为 Hugging Face 推理端点引入了新的 Inf2 实例选项。
Hugging Face 与 Microsoft 战略合作更新（2024年5月）
Hugging Face 与 Microsoft 扩大了战略合作，将流行的开源模型集成到 Azure 模型目录，支持 Azure 上的 AMD MI300X GPU，并为 Hugging Face Spaces 引入了 VS Code 集成。
Hugging Face 对 AMD Instinct MI300 GPU 的集成
Hugging Face 为 AMD Instinct MI300 GPU 提供了一流的集成，使 Llama 3 70B 的推理速度提升至最高 3 倍，微调速度提升至 2 倍，相较于 MI250。
Dell Enterprise Hub：本地 AI 部署与训练
Hugging Face 与 Dell 联手推出 Dell Enterprise Hub，这是一套简化在 Dell 硬件上本地训练和部署开源大型语言模型的平台。
Hugging Face Spaces 开发模式发布
Hugging Face 推出了 Spaces 开发模式，允许 PRO 订阅者通过 VS Code 或 SSH 进行实时代码编辑，无需为每一次更改进行 git 推送。
Hugging Face KV 缓存量化
Hugging Face 在 Transformers 库中引入了 KV 缓存量化，以在对模型质量影响最小的情况下降低长上下文文本生成的内存使用。
介绍开放阿拉伯语大型语言模型排行榜
Hugging Face 与技术创新研究所推出了开放阿拉伯语大型语言模型排行榜（OALL），为阿拉伯语大型语言模型提供了一个专门的、开放的评估平台。
PaliGemma 视觉语言模型发布
Google 已发布 PaliGemma，这是一系列结合 SigLIP-So400m 和 Gemma-2B 的开源视觉语言模型，可实现图像字幕、视觉问答和目标检测等任务。
Hugging Face 与 LangChain 推出 langchain_huggingface 合作包
Hugging Face 与 LangChain 已发布 langchain_huggingface，这是一个共同维护的合作包，旨在简化 Hugging Face 模型在 LangChain 生态系统中的集成。
使用 Intel Gaudi 2 和 Intel Xeon 构建成本高效的企业 RAG 应用
Hugging Face 演示了通过 OPEA 框架将 Intel Gaudi 2 加速器与 Intel Xeon CPU 结合使用，如何使企业能够构建相较于基于 H100 系统具有更高性价比的 RAG 应用。
Hugging Face 企业中心现已在 AWS Marketplace 上提供
Hugging Face 已将 Enterprise Hub 与 AWS Marketplace 集成，使组织能够升级其账户并通过 AWS 账户直接管理计费。
Hugging Face 开放排行榜（针对希伯来语 LLM）
Hugging Face 推出了专门用于评估和提升希伯来语大型语言模型（LLM）的开放排行榜，旨在应对资源匮乏和形态复杂语言的挑战。
人工分析 LLM 性能排行榜 在 Hugging Face
Hugging Face 已集成 Artificial Analysis LLM Performance Leaderboard，为 AI 工程师提供统一的度量体系，以比较 100 多个无服务器 LLM API 端点的质量、价格和速度。
Hugging Face 推理端点 ASR 与说话人分离流水线
Hugging Face 推出了一款自定义推理处理程序，用于在推理端点上部署结合 Whisper ASR、Pyannote 分离和推测解码的模块化流水线。