✷ 归档 · 11 个实验室 · 869 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
使用 🤗 Transformers 优化 Bark
Hugging Face 演示了如何使用 Better Transformer、半精度（fp16）和 CPU 卸载来减少 Bark 文本转语音模型的内存占用并提高推理速度。
Swift Transformers 发布：在 Apple 设备上运行 On-Device LLMs
Hugging Face 发布了 alpha版 swift-transformers Swift 包、swift-chat 演示应用、已更新的 exporters 和 transformers-to-coreml 工具，以及 Llama 2 7B 和 Falcon 7B 的 Core ML 版本，使开发者能够在 Apple 应用中运行设备端 LLMs。
使用 TRL 通过 Direct Preference Optimization (DPO) 微调 Llama 2
Hugging Face 已将 Direct Preference Optimization (DPO) 集成到 TRL 库中，使用简化的二元交叉熵损失而不是复杂的 RLHF 管道来对齐 Llama 2 和其他 LLMs。
通过 Hugging Face 推理端点部署 MusicGen
Hugging Face 演示了如何使用推理端点和自定义处理程序将 MusicGen（一种文本到音乐生成模型）作为 API 部署，以支持标准管线不支持的模型。
使用 FHE 的加密大型语言模型之路
Hugging Face 和 Zama 演示了 Fully Homomorphic Encryption (FHE) 如何使大型语言模型能够处理加密的用户数据，同时保护模型所有者的知识产权。
Huggy Lingo: 使用机器学习改进 Hugging Face Hub 语言元数据
Hugging Face 正在使用 fastText 语言识别模型和 Librarian-Bots 自动检测并为当前缺少语言元数据的数据集提出建议。
Practical 3D Asset Generation Guide
Hugging Face 提供了一种逐步工作流程，通过结合 OpenAI 的 Shap-E 模型、Blender 和 Dream Textures 来创建低保真、PS1 风格的 3D 资产。
Segmind SD-Small 和 SD-Tiny 知识蒸馏发布
Segmind 开源了 SD‑Small 和 SD‑Tiny 的代码和预训练权重，这两个扩散模型相比 Stable Diffusion 小了 35% 和 55%，同时实现了最高 2× 的推理速度提升。
在Mac上使用高级Core ML量化的Stable Diffusion XL
Hugging Face 和 Apple 已将 Stable Diffusion XL 移植到 Core ML，引入混合位调色板量化技术，在保持 Apple Silicon Mac 上图像质量的同时将 UNet 大小降低了 71%。
Agents.js 发布：使用 JavaScript 为 LLMs 提供工具
Hugging Face 已发布 Agents.js，一个 JavaScript 库，使 LLMs 能够在浏览器或服务器上访问和执行工具。
Hugging Face 及合作伙伴概述欧盟 AI 法案的开放机器学习考量
Hugging Face 与创意共用、Eleuther AI、GitHub、LAION 和 Open Future 组成的联盟提出了五项关键建议，以确保欧盟 AI 法案支持开源机器学习发展。
Hugging Face 开源 AI 游戏 Jam 结果
Hugging Face 举办了首届开源 AI 游戏 Jam，共收到 88 次游戏提交，这些游戏在资源、编码和玩法机制中融合了开源 AI 工具。
Hugging Face Diffusers 首周年概览
Hugging Face 庆祝 Diffusers 库的第一周年，突显其发展为一个用于文本到图像、视频、3D 和音频生成的模块化工具箱。
Llama 2 发布与 Hugging Face 集成
Meta 发布了 Llama 2，这是一个可用于商业用途的开放获取大型语言模型系列，并已全面集成到 Hugging Face 生态系统中。
Hugging Face AI WebTV：构建自动化视频与音乐合成流
Hugging Face 开发了 AI WebTV，这是一个实验性演示，利用 Zeroscope 和 MusicGen 从 LLM 生成的提示词中自动合成视频和音乐流。
开源文本生成 & LLM 生态系统 在 Hugging Face
Hugging Face 的 2023 年博客文章调查了开源文本生成和 LLM 生态系统，涵盖了模型背景、许可证、服务工具和参数高效微调。
使用 Hugging Face Diffusers 在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion
Hugging Face 展示了如何仅使用五张示例图像，通过文本反转（textual inversion）在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion 模型，演示了通过 Intel Extension for PyTorch 和 oneCCL 实现的基于 CPU 的微调。
使用 Transformers.js 制作基于机器学习的网页游戏
Hugging Face 演示了如何使用 Transformers.js 和一个微调的 MobileViT 模型创建 Doodle Dash，这是一个完全在浏览器中运行的实时草图检测游戏。
使用 Hugging Face Inference Endpoints 部署 LLMs
Hugging Face Inference Endpoints 是一个托管的 SaaS 解决方案，使开发者能够将开源 LLMs 部署为生产就绪的 API，具备自动扩容、scale-to-zero 和企业级安全等功能。
Hugging Face: 使用开放机器学习模型构建 Web 应用生成器
Hugging Face 演示了如何使用 NodeJS、WizardCoder-15B 模型和 Hugging Face Inference Endpoints API 构建文本到 Web 应用的生成器。
利用 Hugging Face 进行复杂生成式 AI 用例：Writer 案例研究
Hugging Face 强调了其与 Writer 的合作伙伴关系，展示了该公司如何从用户发展为客户和开源贡献者，同时利用 Hugging Face Expert 加速计划实现可扩展的 LLM 生产。
加速视觉-语言模型：BridgeTower 在 Habana Gaudi2 上
Hugging Face 表明，在 Habana Gaudi2 上使用 Optimum Habana 对 BridgeTower 视觉-语言模型进行微调，通过增加 dataloader 工作进程数和硬件加速的图像解码，可实现比 Nvidia A100 高达 2.5×、比 H100 高 1.4× 的加速。
Hugging Face Ethics and Society Newsletter 第4期：文本到图像模型中的偏见
Hugging Face 概述了文本到图像模型中偏见的复杂来源，并提出了一种多管齐下的方法，使用探索工具、红队测试和文档来检测和缓解这些偏见。
Hugging Face Open LLM Leaderboard MMLU 评估分析
Hugging Face 解释了 MMLU 基准测试中不同的实现细节如何导致同一 LLM 的性能评分和排名出现显著差异。
Panel 与 Hugging Face Spaces 的集成
Hugging Face 已将 Panel 模板集成到 Hugging Face Spaces，使用户能够轻松构建和部署基于 Python 的仪表盘和复杂应用。
Hugging Face 回复美国 NTIA 关于 AI 责任的征求意见请求
2023年6月12日，Hugging Face 提交了对美国 NTIA 关于 AI 责任的征求意见的回复，建议责任机制应覆盖完整的 ML 生命周期，将内部文档与外部透明度相结合，并让广泛的利益相关方参与其中。
为低资源 ASR 微调 MMS Adapter 模型
Hugging Face 宣布，在 Meta AI 的 Massive Multilingual Speech (MMS) 模型上微调 adapter 层，仅需几分钟训练即可为低资源语言提供最先进的词错误率 (WER)，同时比全模型微调更节省内存。
Autoformer – Transformer 在时间序列预测中有效
Hugging Face 宣布 Autoformer 模型现在可在 🤗 Transformers 库中使用，表明基于 Transformer 的模型在时间序列预测基准测试中优于如 DLinear 这样的简单线性基线。
Hugging Face 内容指南和政策更新
Hugging Face 已更新其内容政策，以应对审核机器学习制品的独特挑战，并将同意作为核心价值，以保护用户权利和隐私。
将 Livebook 笔记本部署为 Hugging Face Spaces 的应用
Hugging Face 现在支持将 Livebook 笔记本部署为 Hugging Face Spaces 的交互式应用，使得基于 Elixir 的机器学习应用可以轻松共享。
在 iPhone、iPad 和 Mac 上通过 Core ML 实现更快的 Stable Diffusion
Hugging Face 和 Apple 在 Core ML 中引入了 6-bit palettization 和更新的 attention layer 优化，从而显著降低了 Stable Diffusion 在 Apple 设备上的内存占用并提高了推理速度。
Hugging Face 与 AMD 合作以加速模型
Hugging Face 与 AMD 已合作，优化适用于 AMD CPU、GPU 和 AI 加速器的最先进 transformer 模型，以提升训练和推理的性价比标准。
面向画廊、图书馆、档案馆和博物馆的 Hugging Face Hub
Hugging Face 发布了一份指南，展示了画廊、图书馆、档案馆和博物馆如何利用其 Hub 来分享模型、数据集和演示，从而降低 GLAM 领域使用机器学习的门槛。
基础模型能像人类一样标注数据吗？Hugging Face 分析
Hugging Face 调查了 GPT-4 是否能可靠地替代人类标注者进行 LLM 偏好评估，发现存在显著的位置偏差和冗长偏差，限制了其作为人类判断代理的准确性。
Hugging Face Hub 和 DuckDB 集成用于数据集分析
Hugging Face 现在允许用户通过 DuckDB 在 Hub 上超过 50,000 个已自动转换为 Parquet 格式的公开数据集上运行 SQL 查询。
fastText 与 Hugging Face Hub 集成
Hugging Face 现在托管了 157 种语言的 fastText 词向量官方镜像以及一个语言识别模型，简化了模型的访问和部署。
Falcon 模型发布及 Hugging Face 生态集成
Hugging Face 宣布了 Falcon 家族的开源 Apache‑2.0 语言模型，突出 Falcon‑40B 在 Open LLM 排行榜上的顶尖排名，并展示了如何使用 Hugging Face 工具运行、量化和微调这些模型。
AI 语音识别在 Unity 中
Hugging Face 提供了一份指南和 API，用于在 Unity 游戏中实现最先进的自动语音识别（ASR），以启用语音命令和 NPC 交互。
Hugging Face 开源 AI Game Jam 公告
Hugging Face 将于 2023 年 7 月 7 日至 9 日举办开源 AI Game Jam，以鼓励游戏开发者将开源生成式 AI 工具集成到他们的开发工作流和游戏功能中。
BERTopic 与 Hugging Face Hub 的集成
Hugging Face 博客文章中关于 BERTopic 与 Hub 集成的公告，除标题外没有提供可读的详细信息。
Hugging Face LLM 推理容器 适用于 Amazon SageMaker
Hugging Face 推出了一个专门构建的 LLM 推理容器（DLC），适用于 Amazon SageMaker，由 Text Generation Inference (TGI) 提供动力，以实现开源大型语言模型的高性能部署。
使用 NNCF 和 🤗 Optimum 优化 Intel CPU 上的 稳定扩散
Hugging Face 宣布了一种使用 NNCF 和 Optimum 对 稳定扩散 进行量化并应用 令牌合并 的工作流程，在 Intel CPU 上实现了最高 5.1 倍的推理速度提升以及模型占用空间减少 4 倍。
Hugging Face 在 Azure Machine Learning 上的模型目录
Hugging Face 和 Microsoft 在 Azure Machine Learning Studio 内推出了 Hugging Face Hub 模型目录的原生集成，以简化在安全的 Azure 基础设施上部署开源模型。
Hugging Face 4 位量化与 QLoRA 发布
Hugging Face 宣布通过 bitsandbytes 支持 4 位量化，并推出 QLoRA 方法，使得在消费级 GPU 上即可进行大语言模型的推理和适配器微调。
使用 InstructPix2Pix 对 Stable Diffusion 进行指令微调
Hugging Face 探索将 InstructPix2Pix 扩展，以通过多任务指令微调方法教会 Stable Diffusion 遵循特定的图像转换和低层处理指令。
Hugging Face Safetensors 安全审计与默认采用
在 Trail of Bits 的安全审计确认未发现导致任意代码执行的关键缺陷后，Hugging Face、EleutherAI 和 Stability AI 正在将 safetensors 作为默认模型保存格式进行迁移。
Hugging Face 与 IBM 在 watsonx.ai 的合作
Hugging Face 与 IBM 合作，将 Hugging Face 开源库和模型集成到 watsonx.ai 中，watsonx.ai 是一个用于训练、调优和部署基础模型的企业 AI 工作室。
Q8-Chat：在 Intel Xeon CPU 上实现高效生成式 AI
Hugging Face 与 Intel 展示，使用 SmoothQuant 将 LLM 压缩为 8 位整数，可在单插槽 Intel Xeon CPU 上高效运行高质量的聊天体验。
大规模近似去重背后的 BigCode
Hugging Face 详细说明了在 BigCode 项目中使用 MinHash 和局部敏感哈希（LSH）进行大规模近似去重，展示了去除近似重复数据能够提升模型性能和训练效率。
RWKV 架构集成到 Hugging Face Transformers
Hugging Face 宣布将 RWKV RNN‑Transformer 混合模型集成到 Transformers 库中，使开源的长上下文语言模型能够兼具 RNN 的高效性和 Transformer 的性能。