Hugging Face 模型卡文档框架
Hugging Face 发布了一套工具和资源，包括基于 GUI 的创建工具和标准化模板，以提升机器学习模型文档的可访问性和标准化程度。
OpenAI Point-E：从文本提示生成 3D 点云
OpenAI 推出了 Point-E，这是一套在单个 GPU 上用 1-2 分钟从复杂文本提示生成 3D 点云的系统，优先考虑采样速度而非绝对的样本质量。
OpenAI text-embedding-ada-002 发布
OpenAI 宣布了 text-embedding-ada-002 模型，这是一款统一的、更快、更便宜的嵌入模型，在大多数任务上优于之前的模型。
Hugging Face 音频数据集指南 – 如何加载、处理和流式传输音频数据
Hugging Face 宣布了一份全面指南，展示 🤗 Datasets 库能够通过几行 Python 代码加载、预处理并流式传输 Hub 上的任何音频数据集，从而实现对语音和音频任务的高效研究。
Hugging Face伦理与社会通讯 #2：机器学习中的偏见治理
Hugging Face提出了一套社会技术框架，用于通过将偏见视为必须在任务定义、数据集策划和模型训练各阶段加以应对的风险因素来缓解机器学习中的偏见。
Habana Gaudi2 vs Nvidia A100 80GB 性能基准
Hugging Face 基准测试显示，Habana Gaudi2 在 BERT、Stable Diffusion 和 T5-3B 模型的训练和推理中提供约两倍于 Nvidia A100 80GB 的吞吐量。
Hugging Face 宣布 Bumblebee：在纯 Elixir 中实现 Transformers 与 Stable Diffusion
Hugging Face 发布了 Bumblebee，这是一款纯 Elixir 实现的 Transformers，实现了从 GPT‑2 到 Stable Diffusion 的模型在 Elixir 生态系统中的运行，支持本地 CPU/GPU 推理，无需外部依赖。
阐释人类反馈强化学习 (RLHF)
Hugging Face 解释了人类反馈强化学习 (RLHF)，这是一个通过使用基于人类偏好的奖励模型来优化模型，从而使大型语言模型与复杂的人类价值观对齐的三步流程。
OpenAI 超算基础设施与后端系统工程
OpenAI 工程师 Jake Stangel 描述了管理价值数十亿美元的超算集群所面临的技术挑战，在极端规模下会暴露出其他用户未曾见过的硬件和内核问题。
深度学习与蛋白质 – Hugging Face 蛋白质语言模型与折叠指南
Hugging Face 宣布了一系列教程，展示如何微调蛋白质语言模型并使用 ESMFold 进行蛋白质折叠，证明 NLP 中的迁移学习技术可以直接应用于蛋白质序列任务。
使用 🤗 Transformers 的时间序列 Transformer 概率预测
Hugging Face 发布了一个用于全局概率时间序列预测的原始 Transformer 模型，在 Tourism Monthly 基准上展示了最先进的性能。
Apple Silicon 上的 Stable Diffusion Core ML – 如何运行和优化
Hugging Face 发布了针对 Apple Silicon 的 Core ML 转换版 Stable Diffusion 检查点，使得在 Python 或 Swift 中进行设备端图像生成成为可能，在 M1 Max 上每张图像最快可在 18 秒内完成。
OpenAI 推出 ChatGPT
OpenAI 已发布基于 GPT-3.5 系列的会话式 AI 模型 ChatGPT，该模型通过人类反馈强化学习（RLHF）进行训练，以对话形式进行交互。
VQ‑Diffusion：离散空间中的条件潜在扩散
VQ‑Diffusion 是一种在量化离散潜在空间上运行的条件潜在扩散模型，能够提供比传统自回归模型更快的推理速度和更高的图像质量。
Hugging Face 2023 实习项目
Hugging Face 宣布了 2023 年实习项目，提供开源、科研和社会影响团队的岗位，以推动负责任机器学习的民主化。
Hugging Face 扩散模型课程与社区活动
Hugging Face 宣布将于 2022 年 11 月 28 日推出免费扩散模型课程，并于 11 月 30 日举办现场社区活动，邀请了来自 Stability AI、Meta 和 Runway 的研究人员。
Hugging Face 机器学习洞察总监 第4部分
四位机器学习总监分享了在电子商务、工程、教育和 SaaS 领域中，机器学习的影响、挑战以及集成陷阱的行业特定洞察。
Hugging Face 推理解决方案概览 2022年11月
Hugging Face 宣布推出一套免费和付费的推理选项——包括小部件、API、推理端点和 Spaces——以简化模型测试、部署和生产规模化。
Hugging Face 加速文档 AI
Hugging Face 提供了一份全面指南，帮助企业使用开源多模态模型实现文档分类、解析和视觉问答的自动化。
同态加密下的加密数据情感分析
Hugging Face 演示了如何使用 Concrete-ML 库，通过结合 BERT Transformer 与 XGBoost，在 Fully Homomorphic Encryption（FHE）下对加密数据进行情感分析。
Hugging Face 与 arXiv 的机器学习演示集成
Hugging Face 已将 Hugging Face Spaces 与 arXivLabs 集成，在 arXiv 论文摘要页面直接提供交互式机器学习演示。
OFA：迈向构建全能模型
OFA 是一个统一的多模态预训练模型，通过基于指令的多任务预训练，将跨模态的理解和生成任务统一到单一框架中。
Hugging Face 定价更新 2022年11月
Hugging Face 已转向基于计算的货币化模式，停止了 Inference API 的付费层，转而使用 Inference Endpoints 和 Spaces 的硬件升级。
对比搜索在 Transformers 中实现人类水平的文本生成
Hugging Face 已将对比搜索集成到 transformers 库中，这是一种解码方法，可防止模型退化，并在 16 种语言的现成模型上保持语义连贯性。
使用 Diffusers 的 Dreambooth Stable Diffusion 微调指南
Hugging Face 发布了使用 Diffusers 库对 Stable Diffusion 进行 Dreambooth 训练的详细建议，指出低学习率、足够的训练步数、对人像进行先验保持以及文本编码器微调能够获得最高质量的结果。
OpenAI DALL·E API 公测公告
OpenAI 宣布 DALL·E 图像生成 API 现已进入公测，开发者可以将最先进的图像创作和内置审核功能集成到他们的应用中。
使用 Hugging Face Transformers 对 Whisper 进行多语言 ASR 微调
Hugging Face 提供了一份关于微调 OpenAI Whisper 模型以实现多语言自动语音识别（ASR）的完整指南，展示了在仅使用 8 小时数据的情况下，Hindi 语言的 WER 绝对提升了 31.5%。
Hugging Face Optimum Intel 与 OpenVINO 集成
Hugging Face 已将 Intel OpenVINO 集成到 Optimum Intel 中，使 Transformer 模型在 Intel 硬件上实现加速推理和量化。
使用 🤗 Evaluate 评估语言模型偏见
Hugging Face 为 🤗 Evaluate 库添加了偏见度量——toxicity、language polarity（Regard）和 HONEST，使得能够系统地衡量因果语言模型中的有害语言。
使用 PyTorch DDP、Accelerate 和 Transformers Trainer 进行分布式训练
Hugging Face 解释了如何使用三种抽象层次实现分布式训练：原生 PyTorch DDP、Accelerate 库以及高级的 Transformers Trainer API。
OpenAI 奖励模型过度优化的尺度定律
OpenAI 发现，对不完美的代理奖励模型进行优化最终会削弱真实表现，并遵循基于模型参数和数据集规模的可预测尺度定律。
MTEB：大规模文本嵌入基准
Hugging Face 推出 MTEB，这是一项规模庞大且支持多语言的基准，包含 56 个数据集，覆盖 8 项任务，用于评估文本嵌入模型的性能。
Hugging Face 推理端点
Hugging Face 推理端点是一项托管服务，允许用户仅需几次点击即可将机器学习模型从 Hugging Face Hub 部署到可扩展且安全的云基础设施。
Stable Diffusion JAX 与 Flax 集成
Hugging Face Diffusers 0.5.1 版引入了对 Flax 的支持，使得通过 JAX 在 Google TPU 上实现高速的 Stable Diffusion 推理。
Hugging Face BLOOM 推理优化
Hugging Face 通过从流水线并行（Pipeline Parallelism）转向张量并行（Tensor Parallelism）并实现自定义 CUDA 内核，使 BLOOM 模型的延迟降低了 5 倍，吞吐量提升了 50 倍。
Hugging Face 引入模型和数据集的 DOI 支持
Hugging Face 现在允许用户为 Hub 上的模型和数据集生成数字对象标识符（DOI），提供跨版本持久、可引用的链接。
rinna 发布的日语 Stable Diffusion
rinna 发布了日语 Stable Diffusion，这是 Stable Diffusion 的日语微调版本，能够根据日语提示生成符合文化的图像。
Hugging Face 零样本评估在 Hub 上
Hugging Face 在 Hub 上推出了因果语言模型的零样本评估，使用户无需编写代码即可对最高 660 亿参数的模型进行基准测试。
OpenAI DALL·E Beta 现已无需等待名单
OpenAI 已取消 DALL·E Beta 的等待名单，用户可立即注册，系统目前支持超过 150 万用户，每天生成超过 200 万张图像。
Hugging Face AutoTrain 图像分类
Hugging Face 已在 AutoTrain 中加入图像分类功能，使用户能够在无需编写代码或配置超参数的情况下训练自定义图像分类模型。
Hugging Face Accelerate：使用 PyTorch 运行大型模型
Hugging Face Accelerate 通过利用 PyTorch 的 meta 设备和分片检查点，在 GPU、CPU RAM 与磁盘之间管理内存，从而使得在消费级硬件上运行超大 AI 模型成为可能。
SetFit：高效的少样本学习（无需提示）
Hugging Face 推出 SetFit，这是一种无需提示的少样本微调 Sentence Transformers 的框架，能够在极少标注数据的情况下实现高准确率。
Hugging Face伦理与社会通讯 #1
Hugging Face推出了伦理与社会通讯，并概述了一种通过协作、透明和责任实现AI伦理落地的去中心化、价值驱动方法。
OpenAI Whisper 发布
OpenAI 已发布 Whisper，这是一款自动语音识别（ASR）系统，经过 680,000 小时的多语言和多任务监督数据训练，以提升对口音、噪声和语言的鲁棒性。
惊人快速的 BLOOM 推理：使用 DeepSpeed 与 Accelerate
Hugging Face 展示了在 8×80 GB A100 GPU 上，使用 DeepSpeed‑Inference 张量并行和 Accelerate 流水线并行，对 176B 参数的 BLOOM 模型实现亚毫秒级每标记生成。
Diffusers 0.3 版本新增图像到图像、文本反转、修复、GPU 优化、Mac MPS、ONNX 支持和全新文档
Hugging Face 宣布 Diffusers 0.3 版，新增图像到图像、文本反转、实验性修复、针对小显存 GPU 的优化、Mac MPS 支持、ONNX 导出器、扩展文档以及一波社区项目。
离线强化学习的决策Transformer训练
Hugging Face 提供了一份指南和实现，演示如何从头开始训练离线决策Transformer，以使用 transformers Trainer 和自定义数据收集器解决 HalfCheetah 环境。
使用 Megatron-LM 训练语言模型
Hugging Face 提供了一份指南，介绍如何使用 NVIDIA 的 Megatron-LM 框架在 GPU 上高效预训练大型语言模型，并与 Transformers 库进行集成。
DALL·E Outpainting 功能发布
OpenAI 为 DALL·E 推出了 Outpainting，使用户能够使用自然语言描述在保持视觉一致性的前提下，将图像扩展到原始边界之外。
OpenRAIL：迈向开放且负责任的 AI 许可框架
Hugging Face 宣布了 OpenRAIL，这是一套 AI 专用许可证，结合开放访问和基于使用的限制，以促进机器学习模型的负责任部署。