介绍 Würstchen:用于图像生成的快速扩散
Würstchen 是一种快速且高效的文本到图像扩散模型,通过实现 42x 空间压缩来显著降低训练和推理成本。
Hugging Face Transformers 量化概览
Hugging Face 原生支持 bitsandbytes 和 auto-gptq 量化方案,以在较小的设备上实现大型模型推理以及高效的适配器微调。
SafeCoder vs. 闭源代码助手
Hugging Face 推出 SafeCoder,一个基于开源 StarCoder 模型的企业级代码助手,相较于闭源替代方案,它优先考虑透明度、定制化和数据隐私。
使用 T2I-Adapters 进行 SDXL 的高效可控生成
Hugging Face 和 TencentARC 推出 T2I-Adapter-SDXL,这是一个轻量级的即插即用模型,能够使用外部信号(如草图和深度图)对 Stable Diffusion XL(SDXL)的生成进行精确控制,其计算开销相比 ControlNet 显著降低。
Falcon 180B 发布说明
TII 发布了 Falcon 180B,这是目前公开可用的最大语言模型,拥有 1800 亿参数,在 3.5 万亿个 token 上训练,以与专有模型如 PaLM-2 竞争。
Fetch 案例研究:使用 Amazon SageMaker 和 Hugging Face 将 ML 处理延迟降低 50%
Fetch 通过将其机器学习 (ML) 管道迁移到 Amazon SageMaker 和 Hugging Face,将收据扫描的 ML 处理延迟降低了 50%,并将文档理解模型的准确性提高了 200%。
AudioLDM 2 优化指南:使用 Hugging Face Diffusers 减少推理时间
Hugging Face 演示了如何将 AudioLDM 2 的推理时间降低超过 10 倍,通过代码和模型优化将 10 秒音频样本的生成时间降低到不到 1 秒。
Hugging Face Hub Git 身份验证更改
Hugging Face 在 2023 年 10 月 1 日弃用了基于密码的 Git 身份验证,要求用户切换到个人访问令牌或 SSH 密钥以提高安全性。
Code Llama 发行说明
Code Llama 是一系列基于 Llama 2 的开放访问模型,专门用于代码任务,支持填充以及最多 100,000 token 的长上下文窗口。
Hugging Face AutoGPTQ 与 Transformers 集成
Hugging Face 已将 AutoGPTQ 库集成到 Transformers 中,实现了将 LLM 量化为 8、4、3 或 2 位精度,从而在 4 位精度下实现极低精度损失的同时减少内存需求。
IDEFICS: 最先进的视觉语言模型的开放复现
Hugging Face 发布了 IDEFICS,这是一个基于 Flamingo 架构的开放访问视觉语言模型,支持 9B 和 80B 参数规模的交错图像和文本输入。
Hugging Face SafeCoder 公告
Hugging Face 已推出 SafeCoder,这是一种自托管的企业级代码助手解决方案,使公司能够在其自身安全基础设施内构建和部署专有的 Code LLM。
Hugging Face Hub 在 AWS Marketplace
Hugging Face 将其 Hub 与 AWS Marketplace 集成,使组织能够直接通过其 AWS 账户为诸如 Inference Endpoints 和 AutoTrain 之类的托管服务付费。
使用 BentoML 部署 DeepFloyd IF
Hugging Face 演示了如何使用 BentoML 部署 DeepFloyd IF 文本到图像模型,使其多阶段像素扩散架构能够在多个 GPU 上独立扩展。
使用 🤗 Transformers 优化 Bark
Hugging Face 演示了如何使用 Better Transformer、半精度(fp16)和 CPU 卸载来减少 Bark 文本转语音模型的内存占用并提高推理速度。
Swift Transformers 发布:在 Apple 设备上运行 On-Device LLMs
Hugging Face 发布了 alpha版 swift-transformers Swift 包、swift-chat 演示应用、已更新的 exporters 和 transformers-to-coreml 工具,以及 Llama 2 7B 和 Falcon 7B 的 Core ML 版本,使开发者能够在 Apple 应用中运行设备端 LLMs。
使用 TRL 通过 Direct Preference Optimization (DPO) 微调 Llama 2
Hugging Face 已将 Direct Preference Optimization (DPO) 集成到 TRL 库中,使用简化的二元交叉熵损失而不是复杂的 RLHF 管道来对齐 Llama 2 和其他 LLMs。
通过 Hugging Face 推理端点部署 MusicGen
Hugging Face 演示了如何使用推理端点和自定义处理程序将 MusicGen(一种文本到音乐生成模型)作为 API 部署,以支持标准管线不支持的模型。
使用 FHE 的加密大型语言模型之路
Hugging Face 和 Zama 演示了 Fully Homomorphic Encryption (FHE) 如何使大型语言模型能够处理加密的用户数据,同时保护模型所有者的知识产权。
Huggy Lingo: 使用机器学习改进 Hugging Face Hub 语言元数据
Hugging Face 正在使用 fastText 语言识别模型和 Librarian-Bots 自动检测并为当前缺少语言元数据的数据集提出建议。
Practical 3D Asset Generation Guide
Hugging Face 提供了一种逐步工作流程,通过结合 OpenAI 的 Shap-E 模型、Blender 和 Dream Textures 来创建低保真、PS1 风格的 3D 资产。
Segmind SD-Small 和 SD-Tiny 知识蒸馏发布
Segmind 开源了 SD‑Small 和 SD‑Tiny 的代码和预训练权重,这两个扩散模型相比 Stable Diffusion 小了 35% 和 55%,同时实现了最高 2× 的推理速度提升。
在Mac上使用高级Core ML量化的Stable Diffusion XL
Hugging Face 和 Apple 已将 Stable Diffusion XL 移植到 Core ML,引入混合位调色板量化技术,在保持 Apple Silicon Mac 上图像质量的同时将 UNet 大小降低了 71%。
Agents.js 发布:使用 JavaScript 为 LLMs 提供工具
Hugging Face 已发布 Agents.js,一个 JavaScript 库,使 LLMs 能够在浏览器或服务器上访问和执行工具。
Hugging Face 及合作伙伴概述欧盟 AI 法案的开放机器学习考量
Hugging Face 与创意共用、Eleuther AI、GitHub、LAION 和 Open Future 组成的联盟提出了五项关键建议,以确保欧盟 AI 法案支持开源机器学习发展。
Hugging Face 开源 AI 游戏 Jam 结果
Hugging Face 举办了首届开源 AI 游戏 Jam,共收到 88 次游戏提交,这些游戏在资源、编码和玩法机制中融合了开源 AI 工具。
Hugging Face Diffusers 首周年概览
Hugging Face 庆祝 Diffusers 库的第一周年,突显其发展为一个用于文本到图像、视频、3D 和音频生成的模块化工具箱。
Llama 2 发布与 Hugging Face 集成
Meta 发布了 Llama 2,这是一个可用于商业用途的开放获取大型语言模型系列,并已全面集成到 Hugging Face 生态系统中。
Hugging Face AI WebTV:构建自动化视频与音乐合成流
Hugging Face 开发了 AI WebTV,这是一个实验性演示,利用 Zeroscope 和 MusicGen 从 LLM 生成的提示词中自动合成视频和音乐流。
开源文本生成 & LLM 生态系统 在 Hugging Face
Hugging Face 的 2023 年博客文章调查了开源文本生成和 LLM 生态系统,涵盖了模型背景、许可证、服务工具和参数高效微调。
使用 Hugging Face Diffusers 在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion
Hugging Face 展示了如何仅使用五张示例图像,通过文本反转(textual inversion)在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion 模型,演示了通过 Intel Extension for PyTorch 和 oneCCL 实现的基于 CPU 的微调。
使用 Transformers.js 制作基于机器学习的网页游戏
Hugging Face 演示了如何使用 Transformers.js 和一个微调的 MobileViT 模型创建 Doodle Dash,这是一个完全在浏览器中运行的实时草图检测游戏。
使用 Hugging Face Inference Endpoints 部署 LLMs
Hugging Face Inference Endpoints 是一个托管的 SaaS 解决方案,使开发者能够将开源 LLMs 部署为生产就绪的 API,具备自动扩容、scale-to-zero 和企业级安全等功能。
Hugging Face: 使用开放机器学习模型构建 Web 应用生成器
Hugging Face 演示了如何使用 NodeJS、WizardCoder-15B 模型和 Hugging Face Inference Endpoints API 构建文本到 Web 应用的生成器。
利用 Hugging Face 进行复杂生成式 AI 用例:Writer 案例研究
Hugging Face 强调了其与 Writer 的合作伙伴关系,展示了该公司如何从用户发展为客户和开源贡献者,同时利用 Hugging Face Expert 加速计划实现可扩展的 LLM 生产。
加速视觉-语言模型:BridgeTower 在 Habana Gaudi2 上
Hugging Face 表明,在 Habana Gaudi2 上使用 Optimum Habana 对 BridgeTower 视觉-语言模型进行微调,通过增加 dataloader 工作进程数和硬件加速的图像解码,可实现比 Nvidia A100 高达 2.5×、比 H100 高 1.4× 的加速。
Hugging Face Ethics and Society Newsletter 第4期:文本到图像模型中的偏见
Hugging Face 概述了文本到图像模型中偏见的复杂来源,并提出了一种多管齐下的方法,使用探索工具、红队测试和文档来检测和缓解这些偏见。
Hugging Face Open LLM Leaderboard MMLU 评估分析
Hugging Face 解释了 MMLU 基准测试中不同的实现细节如何导致同一 LLM 的性能评分和排名出现显著差异。
Panel 与 Hugging Face Spaces 的集成
Hugging Face 已将 Panel 模板集成到 Hugging Face Spaces,使用户能够轻松构建和部署基于 Python 的仪表盘和复杂应用。
Hugging Face 回复美国 NTIA 关于 AI 责任的征求意见请求
2023年6月12日,Hugging Face 提交了对美国 NTIA 关于 AI 责任的征求意见的回复,建议责任机制应覆盖完整的 ML 生命周期,将内部文档与外部透明度相结合,并让广泛的利益相关方参与其中。
微调 MMS 适配器模型以适用于低资源 ASR
Hugging Face 展示了如何在低资源 ASR 数据上微调 大规模多语言语音(MMS) 适配器层,在几分钟内实现低词错误率,同时保持大型预训练模型冻结。
Autoformer – Transformer 在时间序列预测中有效
Hugging Face 宣布 Autoformer 模型现在可在 🤗 Transformers 库中使用,表明基于 Transformer 的模型在时间序列预测基准测试中优于如 DLinear 这样的简单线性基线。
Hugging Face 内容指南和政策更新
Hugging Face 已更新其内容政策,以应对审核机器学习制品的独特挑战,并将同意作为核心价值,以保护用户权利和隐私。
将 Livebook 笔记本部署为 Hugging Face Spaces 的应用
Hugging Face 现在支持将 Livebook 笔记本部署为 Hugging Face Spaces 的交互式应用,使得基于 Elixir 的机器学习应用可以轻松共享。
在 iPhone、iPad 和 Mac 上通过 Core ML 实现更快的 Stable Diffusion
Hugging Face 和 Apple 在 Core ML 中引入了 6-bit palettization 和更新的 attention layer 优化,从而显著降低了 Stable Diffusion 在 Apple 设备上的内存占用并提高了推理速度。
Hugging Face 与 AMD 合作以加速模型
Hugging Face 与 AMD 已合作,优化适用于 AMD CPU、GPU 和 AI 加速器的最先进 transformer 模型,以提升训练和推理的性价比标准。
面向画廊、图书馆、档案馆和博物馆的 Hugging Face Hub
Hugging Face 发布了一份指南,展示了画廊、图书馆、档案馆和博物馆如何利用其 Hub 来分享模型、数据集和演示,从而降低 GLAM 领域使用机器学习的门槛。
基础模型能像人类一样标注数据吗?Hugging Face 分析
Hugging Face 调查了 GPT-4 是否能可靠地替代人类标注者进行 LLM 偏好评估,发现存在显著的位置偏差和冗长偏差,限制了其作为人类判断代理的准确性。
Hugging Face Hub 和 DuckDB 集成用于数据集分析
Hugging Face 现在允许用户通过 DuckDB 在 Hub 上超过 50,000 个已自动转换为 Parquet 格式的公开数据集上运行 SQL 查询。
fastText 与 Hugging Face Hub 集成
Hugging Face 现在托管了 157 种语言的 fastText 词向量官方镜像以及一个语言识别模型,简化了模型的访问和部署。