实验室

在 AMD GPU 上使用 ROCm 运行 Vicuna 13B

Hugging Face 提供了一份技术指南，介绍如何在单个 AMD GPU 上使用 ROCm 和 GPTQ 4 位量化部署 Vicuna 13B 开源聊天机器人，将内存需求从 28GB 降至 7.52GB。

Hugging Face 入选 CNIL 增强支持计划

Hugging Face 被法国数据保护机构（CNIL）选入其增强支持计划，以提升在 AI 开发中数据保护和 GDPR 合规的实施。

Hugging Face 低延迟文本生成的辅助生成

Hugging Face 推出了辅助生成，这是一种解码方法，使用更小的助手模型预测候选标记，然后由更大的模型进行验证，从而在某些硬件配置下将延迟降低至最高 10 倍。

使用 StarCoder 创建编码助手 – 摘要

深入文本到视频模型

Hugging Face 提供了文本到视频生成模型演进的技术概览，详细阐述了从 GAN 到 Transformer 再到 Diffusion 架构的转变，并突出时间一致性和数据稀缺的独特挑战。

StarCoder 发布说明

Hugging Face 与 ServiceNow 的 BigCode 合作发布了 StarCoder 和 StarCoderBase，这两款 15B 参数的代码 LLM 在许可宽松的数据上进行训练，在多个编程基准上超越了多种开放和闭源模型。

Hugging Face Unity API 安装与使用指南

Hugging Face Unity API 允许开发者通过专用的包和 API 向导，将 Hugging Face 推理 API 模型集成到 Unity 项目中。

使用 Hugging Face Transformers、TensorFlow 和 TPU 训练语言模型

Hugging Face 提供了一套可扩展的端到端指南，使用 TensorFlow 和 TPU pod 从头训练掩码语言模型，利用 XLA 兼容性实现高性能计算。

Databricks 与 Hugging Face 集成 Apache Spark 加速 LLM 训练

Databricks 通过 Dataset.from_spark() 函数在 Hugging Face Datasets 中引入了一流的 Apache Spark 支持，将大规模模型训练和调优的数据加载时间降低了最高 40%。

在免费版 Google Colab 上使用 Diffusers 运行 DeepFloyd IF

Hugging Face 展示了如何通过 8 位量化、模块化管道加载以及 Diffusers 集成的优化，在免费 Google Colab 笔记本上运行开源的 DeepFloyd IF 文本到图像模型。

Hugging Face推出中文语言博客，支持全球AI社区

Hugging Face 已推出专门的中文语言博客（hf.co/blog/zh），提供翻译的技术资源，促进与中国 AI 社区更深入的合作。

在 Hugging Face Spaces 上托管 Unity 游戏

Hugging Face Spaces 可以通过使用 Static HTML 模板和 WebGL 构建目标来托管可玩的 Unity 游戏。

使用 AWS Inferentia2 加速 Hugging Face Transformers

Hugging Face 与 AWS 已针对 AWS Inferentia2 这一专用推理加速器对 Transformers 进行优化，显著降低延迟并提升大规模模型的吞吐量。

使用 Transformers 进行图分类

Hugging Face 演示了如何在 Transformers 库中使用 Graphormer 模型进行图分类，涵盖数据格式化、预处理和微调。

使用 Substra 创建隐私保护的 AI

Hugging Face 和 Substra 强调了联邦学习如何在去中心化的数据源上训练 AI 模型，以保持隐私和安全，尤其是在医疗等敏感领域。

Snorkel AI 与 Hugging Face 的企业基础模型集成

Snorkel AI 与 Hugging Face 合作，将 Hugging Face Inference Endpoints 集成到 Snorkel Flow 中，使企业能够轻松访问并适配超过 150,000 个开源基础模型。

StackLLaMA：使用 RLHF 训练 LLaMA 以用于 Stack Exchange

Hugging Face 推出 StackLLaMA，这是一款通过监督微调、奖励建模和人类反馈强化学习 (RLHF) 训练的模型，用于回答 Stack Exchange 的问题。

Hugging Face伦理与社会通讯 #3：伦理开放倡议

Hugging Face宣布了新的伦理开放措施——包括六个伦理标签、标记系统以及受众引导元数据——以使开源机器学习更安全、更具包容性。

在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理

Hugging Face 展示了如何在 Intel Sapphire Rapids CPU 上使用 Optimum Intel、OpenVINO、系统级调优、IPEX BF16 以及更快的调度器，将 Stable Diffusion 图像生成的时间从 32 秒缩短至约 5 秒。

在 Habana Gaudi2 加速器上进行 BLOOMZ 推理

Hugging Face 演示了 Habana Gaudi2 加速器在 BLOOMZ 176B 模型上的推理速度快于 Nvidia A100 80GB，利用 Optimum Habana 库和 DeepSpeed‑inference 实现。

使用 Hugging Face 与 Flower 的联邦学习

Hugging Face 演示了如何使用 Flower 框架在预训练的 distilBERT 模型上进行联邦学习，以在 IMDB 数据集上进行情感分析。

使用 Hugging Face Diffusers 训练 ControlNet

Hugging Face 通过 diffusers 库提供了完整的指南和训练脚本，使用户能够为 Stable Diffusion 训练自定义 ControlNet 模型，示例展示了如何创建一个 “Uncanny Faces” 姿态模型。

Hugging Face Hub 改进的 Jupyter Notebook 支持

Hugging Face 为托管在 Hub 上的 Jupyter Notebook 引入了可读性更强的渲染，提升了机器学习从业者的可复现性和可访问性。

使用 Informer 的多变量概率时间序列预测

Hugging Face 已将 Informer 模型集成到 Transformers 库中，实现了高效的多变量概率时间序列预测，并降低了计算和内存复杂度。

在 24GB 消费级 GPU 上对 20B LLM 进行 RLHF 微调

Hugging Face 发布了 TRL 与 PEFT 的集成，使得使用 8 位量化和低秩适配器在单个 24 GB GPU 上对 200 亿参数的语言模型进行强化学习微调。

Kakao Brain ViT 与 ALIGN 模型发布，使用 COYO 700M 数据集

Kakao Brain 与 Hugging Face 发布了在全新 700 M 图文 COYO 数据集上训练的开源 ViT 与 ALIGN 视觉语言模型，提供了首个公开可用的 ALIGN 模型以及具备可复现训练数据的 ViT 模型。

Diffusers 中的 ControlNet

Hugging Face 已将 ControlNet 集成到 Diffusers 库中，使得能够通过 Canny 边缘、深度图和人体姿态等条件，实现对 Stable Diffusion 图像生成的精确空间控制。

使用机器学习进行灾害响应：afetharita 项目

Hugging Face 介绍了志愿者如何利用 Hugging Face 生态系统快速部署 OCR、NER 和遥感的机器学习模型，以帮助 2023 年 2 月土耳其地震的幸存者。

Hugging Face Diffusers 伦理指南

Hugging Face 为 Diffusers 库推出了伦理框架，以指导技术决策和社区贡献，同时降低扩散模型可能带来的社会风险。

Hugging Face 专家加速计划：Witty Works 案例研究

Witty Works 利用 Hugging Face 专家加速计划和 SetFit，构建了一个基于上下文的包容性语言分类器，在使用极少标注数据的情况下实现了高准确率。

Swift Diffusers for Mac 1.1 发布

Hugging Face 已发布 Diffusers for Mac 1.1 版，这是一款利用 Core ML 加速 Apple Silicon 上 Stable Diffusion 的原生开源应用，在部分硬件配置下可实现最高 2 倍的生成速度提升。

大语言模型的红队测试

Hugging Face 概述了红队测试在识别 LLM 漏洞、预防有害输出方面的关键作用，强调需要协作且自适应的评估方法。

Fetch AI 基础设施迁移：使用 Hugging Face 和 AWS 整合工具

Fetch 通过从第三方 AI “黑箱”迁移到由 Hugging Face 和 AWS 支持的内部机器学习管道，将开发时间缩短了 30%，处理延迟降低了 50%。

Hugging Face 与 AWS 的 AI 可访问性战略合作伙伴关系

Hugging Face 与 AWS 扩大了战略合作，通过将 Hugging Face 模型与 AWS 基础设施及专用 ML 加速器相结合，使生成式 AI 更加民主化。

Hugging Face 推理端点案例研究

Hugging Face 正在将其基于 CPU 的机器学习模型从 AWS ECS/Fargate 迁移到 Hugging Face 推理端点，以降低运维复杂性并降低延迟。

BLIP-2：零样本图像到文本生成

BLIP-2 是 Salesforce Research 开发的视觉语言模型，使用查询变换器（Q-Former）在冻结的图像编码器和冻结的大型语言模型之间搭建桥梁，实现高效的零样本图像到文本生成。

🤗 PEFT 库发布，实现对千亿规模模型的参数高效微调

Hugging Face 宣布了 🤗 PEFT 库，用户只需训练极少量参数，即可在低资源硬件上微调千亿参数模型。

SpeechT5：统一模态编码器-解码器用于语音处理

Hugging Face 已集成 SpeechT5，这是一款基于统一 Transformer 的模型，能够通过共享的编码器-解码器骨干实现文本转语音、语音转语音和语音转文本任务。

Hugging Face AI vs. AI：多智能体强化学习竞赛系统

Hugging Face 推出了 AI vs. AI，这是一套开源系统，通过持续的多智能体竞争并使用 ELO 评分系统，对深度强化学习模型进行排名。

Hugging Face AI用于游戏开发：生成故事

Hugging Face 概述了使用大型语言模型（LLM），如 ChatGPT，生成游戏故事和内容的工作流程，同时强调了在原创性、法律风险和长期连贯性方面的关键局限性。

使用 Intel Sapphire Rapids 加速 PyTorch Transformers

Hugging Face 展示了将 Intel Sapphire Rapids CPU 与 Optimum Intel 库结合使用，可将 PyTorch Transformer 推理速度提升至比之前的 Xeon 代际高出最高 3 倍。

深入探讨视觉语言模型

Hugging Face 提供了视觉语言模型的技术概述，详细阐述了五种主要的预训练策略以及它们在 Transformers 库中用于 VQA 和图像分割等任务的集成。

Hugging Face 计算机视觉的现状

Hugging Face 已将其生态系统扩展至支持 8 项核心计算机视觉任务，超过 3,000 个模型和 100 多个数据集，整合了 Transformer 和卷积架构。

Hugging Face 2D 资产生成用于游戏开发

Hugging Face 演示了如何将 Stable Diffusion 的 Image2Image 功能整合到协作的 2D 游戏资产工作流中，以高效地创建可直接用于生产的图标。

使用 LoRA 高效微调 Stable Diffusion

Hugging Face 已将低秩适配（LoRA）集成到 diffusers 库中，实现了更快的 Stable Diffusion 微调，显著降低了显存需求，模型权重小至 3 MB。

Hugging Face Optimum 与 ONNX Runtime 训练集成

Hugging Face 与 Microsoft 将 ONNX Runtime 集成到 Optimum 库中，使基于 Transformer 的模型训练时间缩短 35% 以上。

对话代理有用的因素是什么？技术分析

Hugging Face 分析了关键技术——包括指令微调（IFT）、监督微调（SFT）、来自人类反馈的强化学习（RLHF）以及链式思考（CoT）——这些技术将基础语言模型转变为有用的对话代理。

Hugging Face AI 用于游戏开发：3D 资产生成

Hugging Face 探讨了文本到 3D AI 的现状，得出结论：虽然已有 DreamFusion 和 Point‑E 等工具，但它们尚未在快速游戏开发工作流中实际可用。

Mask2Former 与 OneFormer：🤗 Transformers 中的通用图像分割模型

Hugging Face 在 Transformers 库中发布了 Mask2Former 和 OneFormer，提供了能够使用单一模型处理实例、语义和全景分割的通用架构。

PaddlePaddle 与 Hugging Face Hub 的集成

Hugging Face 与 PaddlePaddle 合作，将其深度学习平台及库（从 PaddleNLP 开始）集成到 Hugging Face Hub，以提升可访问性和共享性。