使用 GPT-4 进行内容审核
OpenAI 正在利用 GPT-4 通过自动化政策应用和细化来加速内容审核,将开发自定义政策的时间从数月缩短到数小时。
Hugging Face Hub 在 AWS Marketplace
Hugging Face 将其 Hub 与 AWS Marketplace 集成,使组织能够直接通过其 AWS 账户为诸如 Inference Endpoints 和 AutoTrain 之类的托管服务付费。
使用 BentoML 部署 DeepFloyd IF
Hugging Face 演示了如何使用 BentoML 部署 DeepFloyd IF 文本到图像模型,使其多阶段像素扩散架构能够在多个 GPU 上独立扩展。
使用 🤗 Transformers 优化 Bark
Hugging Face 演示了如何使用 Better Transformer、半精度(fp16)和 CPU 卸载来减少 Bark 文本转语音模型的内存占用并提高推理速度。
Swift Transformers 发布:在 Apple 设备上运行 On-Device LLMs
Hugging Face 发布了 alpha版 swift-transformers Swift 包、swift-chat 演示应用、已更新的 exporters 和 transformers-to-coreml 工具,以及 Llama 2 7B 和 Falcon 7B 的 Core ML 版本,使开发者能够在 Apple 应用中运行设备端 LLMs。
使用 TRL 通过 Direct Preference Optimization (DPO) 微调 Llama 2
Hugging Face 已将 Direct Preference Optimization (DPO) 集成到 TRL 库中,使用简化的二元交叉熵损失而不是复杂的 RLHF 管道来对齐 Llama 2 和其他 LLMs。
通过 Hugging Face 推理端点部署 MusicGen
Hugging Face 演示了如何使用推理端点和自定义处理程序将 MusicGen(一种文本到音乐生成模型)作为 API 部署,以支持标准管线不支持的模型。
使用 FHE 的加密大型语言模型之路
Hugging Face 和 Zama 演示了 Fully Homomorphic Encryption (FHE) 如何使大型语言模型能够处理加密的用户数据,同时保护模型所有者的知识产权。
Huggy Lingo: 使用机器学习改进 Hugging Face Hub 语言元数据
Hugging Face 正在使用 fastText 语言识别模型和 Librarian-Bots 自动检测并为当前缺少语言元数据的数据集提出建议。
人工智能的置信建立措施
OpenAI 和伯克利风险与安全实验室提出六项置信建立措施(CBM),以减轻基础模型带来的国际安全风险。
Practical 3D Asset Generation Guide
Hugging Face 提供了一种逐步工作流程,通过结合 OpenAI 的 Shap-E 模型、Blender 和 Dream Textures 来创建低保真、PS1 风格的 3D 资产。
Segmind SD-Small 和 SD-Tiny 知识蒸馏发布
Segmind 开源了 SD‑Small 和 SD‑Tiny 的代码和预训练权重,这两个扩散模型相比 Stable Diffusion 小了 35% 和 55%,同时实现了最高 2× 的推理速度提升。
在Mac上使用高级Core ML量化的Stable Diffusion XL
Hugging Face 和 Apple 已将 Stable Diffusion XL 移植到 Core ML,引入混合位调色板量化技术,在保持 Apple Silicon Mac 上图像质量的同时将 UNet 大小降低了 71%。
前沿模型论坛公告
OpenAI、Google、Microsoft 和 Anthropic 已启动前沿模型论坛,以协调前沿 AI 模型开发的安全标准、研究和信息共享。
Agents.js 发布:使用 JavaScript 为 LLMs 提供工具
Hugging Face 已发布 Agents.js,一个 JavaScript 库,使 LLMs 能够在浏览器或服务器上访问和执行工具。
Hugging Face 及合作伙伴概述欧盟 AI 法案的开放机器学习考量
Hugging Face 与创意共用、Eleuther AI、GitHub、LAION 和 Open Future 组成的联盟提出了五项关键建议,以确保欧盟 AI 法案支持开源机器学习发展。
OpenAI AI治理承诺
OpenAI 已承诺建立一个框架,包括内部和外部红队演练、信息共享、AI 生成内容识别以及对模型能力和社会风险的透明报告。
Hugging Face 开源 AI 游戏 Jam 结果
Hugging Face 举办了首届开源 AI 游戏 Jam,共收到 88 次游戏提交,这些游戏在资源、编码和玩法机制中融合了开源 AI 工具。
ChatGPT 自定义指令发布
OpenAI 已为 ChatGPT 引入了自定义指令,使用户能够设置持久的偏好和需求,模型将在所有未来对话中考虑这些设置。
Hugging Face Diffusers 首周年概览
Hugging Face 庆祝 Diffusers 库的第一周年,突显其发展为一个用于文本到图像、视频、3D 和音频生成的模块化工具箱。
OpenAI 与美国新闻项目合作以支持本地新闻
OpenAI 通过承诺提供 1000 万美元的资金和 API 积分,与美国新闻项目(AJP)建立合作伙伴关系,以探索 AI 如何增强本地新闻并对抗错误信息。
Llama 2 发布与 Hugging Face 集成
Meta 发布了 Llama 2,这是一个可用于商业用途的开放获取大型语言模型系列,并已全面集成到 Hugging Face 生态系统中。
Hugging Face AI WebTV:构建自动化视频与音乐合成流
Hugging Face 开发了 AI WebTV,这是一个实验性演示,利用 Zeroscope 和 MusicGen 从 LLM 生成的提示词中自动合成视频和音乐流。
开源文本生成 & LLM 生态系统 在 Hugging Face
Hugging Face 的 2023 年博客文章调查了开源文本生成和 LLM 生态系统,涵盖了模型背景、许可证、服务工具和参数高效微调。
使用 Hugging Face Diffusers 在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion
Hugging Face 展示了如何仅使用五张示例图像,通过文本反转(textual inversion)在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion 模型,演示了通过 Intel Extension for PyTorch 和 oneCCL 实现的基于 CPU 的微调。
使用 Viable 和 GPT-4 分析大规模定性数据
Viable 利用经过微调的 GPT-4 模型,超越简单摘要,提供准确的大规模定性数据分析以获得业务洞察。
OpenAI 前沿 AI 监管提案
OpenAI 和一个多学科研究者小组提出了一种监管框架,用于通过标准制定、注册和合规机制来管理前沿 AI 模型的公共安全风险。
使用 Transformers.js 制作基于机器学习的网页游戏
Hugging Face 演示了如何使用 Transformers.js 和一个微调的 MobileViT 模型创建 Doodle Dash,这是一个完全在浏览器中运行的实时草图检测游戏。
使用 Hugging Face Inference Endpoints 部署 LLMs
Hugging Face Inference Endpoints 是一个托管的 SaaS 解决方案,使开发者能够将开源 LLMs 部署为生产就绪的 API,具备自动扩容、scale-to-zero 和企业级安全等功能。
Hugging Face: 使用开放机器学习模型构建 Web 应用生成器
Hugging Face 演示了如何使用 NodeJS、WizardCoder-15B 模型和 Hugging Face Inference Endpoints API 构建文本到 Web 应用的生成器。
利用 Hugging Face 进行复杂生成式 AI 用例:Writer 案例研究
Hugging Face 强调了其与 Writer 的合作伙伴关系,展示了该公司如何从用户发展为客户和开源贡献者,同时利用 Hugging Face Expert 加速计划实现可扩展的 LLM 生产。
OpenAI 全球对话:洞察与战略重点领域
OpenAI 在 25 座城市和 6 大洲进行了全球倾听之旅,以收集用户、开发者和政策制定者的反馈,以完善其 AI 开发和部署策略。
加速视觉-语言模型:BridgeTower 在 Habana Gaudi2 上
Hugging Face 表明,在 Habana Gaudi2 上使用 Optimum Habana 对 BridgeTower 视觉-语言模型进行微调,通过增加 dataloader 工作进程数和硬件加速的图像解码,可实现比 Nvidia A100 高达 2.5×、比 H100 高 1.4× 的加速。
OpenAI伦敦办公室开幕
OpenAI 在伦敦开设了其首个国际办事处,以扩大其研发足迹并吸引全球人才,以发展安全的 AGI。
Hugging Face Ethics and Society Newsletter 第4期:文本到图像模型中的偏见
Hugging Face 概述了文本到图像模型中偏见的复杂来源,并提出了一种多管齐下的方法,使用探索工具、红队测试和文档来检测和缓解这些偏见。
Hugging Face Open LLM Leaderboard MMLU 评估分析
Hugging Face 解释了 MMLU 基准测试中不同的实现细节如何导致同一 LLM 的性能评分和排名出现显著差异。
Panel 与 Hugging Face Spaces 的集成
Hugging Face 已将 Panel 模板集成到 Hugging Face Spaces,使用户能够轻松构建和部署基于 Python 的仪表盘和复杂应用。
Hugging Face 回复美国 NTIA 关于 AI 责任的征求意见请求
2023年6月12日,Hugging Face 提交了对美国 NTIA 关于 AI 责任的征求意见的回复,建议责任机制应覆盖完整的 ML 生命周期,将内部文档与外部透明度相结合,并让广泛的利益相关方参与其中。
为低资源 ASR 微调 MMS Adapter 模型
Hugging Face 宣布,在 Meta AI 的 Massive Multilingual Speech (MMS) 模型上微调 adapter 层,仅需几分钟训练即可为低资源语言提供最先进的词错误率 (WER),同时比全模型微调更节省内存。
Autoformer – Transformer 在时间序列预测中有效
Hugging Face 宣布 Autoformer 模型现在可在 🤗 Transformers 库中使用,表明基于 Transformer 的模型在时间序列预测基准测试中优于如 DLinear 这样的简单线性基线。
Hugging Face 内容指南和政策更新
Hugging Face 已更新其内容政策,以应对审核机器学习制品的独特挑战,并将同意作为核心价值,以保护用户权利和隐私。
将 Livebook 笔记本部署为 Hugging Face Spaces 的应用
Hugging Face 现在支持将 Livebook 笔记本部署为 Hugging Face Spaces 的交互式应用,使得基于 Elixir 的机器学习应用可以轻松共享。
在 iPhone、iPad 和 Mac 上通过 Core ML 实现更快的 Stable Diffusion
Hugging Face 和 Apple 在 Core ML 中引入了 6-bit palettization 和更新的 attention layer 优化,从而显著降低了 Stable Diffusion 在 Apple 设备上的内存占用并提高了推理速度。
OpenAI 函数调用和 API 更新
OpenAI 为 gpt-4-0613 和 gpt-3.5-turbo-0613 引入了函数调用,使模型能够输出结构化 JSON 以用于外部工具和 API 集成。
Hugging Face 与 AMD 合作以加速模型
Hugging Face 与 AMD 已合作,优化适用于 AMD CPU、GPU 和 AI 加速器的最先进 transformer 模型,以提升训练和推理的性价比标准。
面向画廊、图书馆、档案馆和博物馆的 Hugging Face Hub
Hugging Face 发布了一份指南,展示了画廊、图书馆、档案馆和博物馆如何利用其 Hub 来分享模型、数据集和演示,从而降低 GLAM 领域使用机器学习的门槛。
基础模型能像人类一样标注数据吗?Hugging Face 分析
Hugging Face 调查了 GPT-4 是否能可靠地替代人类标注者进行 LLM 偏好评估,发现存在显著的位置偏差和冗长偏差,限制了其作为人类判断代理的准确性。
Hugging Face Hub 和 DuckDB 集成用于数据集分析
Hugging Face 现在允许用户通过 DuckDB 在 Hub 上超过 50,000 个已自动转换为 Parquet 格式的公开数据集上运行 SQL 查询。
fastText 与 Hugging Face Hub 集成
Hugging Face 现在托管了 157 种语言的 fastText 词向量官方镜像以及一个语言识别模型,简化了模型的访问和部署。
Falcon 模型发布及 Hugging Face 生态集成
Hugging Face 宣布了 Falcon 家族的开源 Apache‑2.0 语言模型,突出 Falcon‑40B 在 Open LLM 排行榜上的顶尖排名,并展示了如何使用 Hugging Face 工具运行、量化和微调这些模型。