✷ 归档 · 11 个实验室 · 3,430 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
IDEFICS: 最先进的视觉语言模型的开放复现
Hugging Face 发布了 IDEFICS，这是一个基于 Flamingo 架构的开放访问视觉语言模型，支持 9B 和 80B 参数规模的交错图像和文本输入。
Hugging Face SafeCoder 公告
Hugging Face 已推出 SafeCoder，这是一种自托管的企业级代码助手解决方案，使公司能够在其自身安全基础设施内构建和部署专有的 Code LLM。
OpenAI 收购 Global Illumination
OpenAI 已收购 Global Illumination，这是一家专注于创意工具和基础设施的公司，以将其团队整合到包括 ChatGPT 在内的核心产品开发中。
使用 GPT-4 进行内容审核
OpenAI 正在利用 GPT-4 通过自动化政策应用和细化来加速内容审核，将开发自定义政策的时间从数月缩短到数小时。
Anthropic 与 SK Telecom 合作伙伴关系公告
Anthropic 与 SK Telecom (SKT) 已建立商业合作伙伴关系并进行战略投资，以开发针对电信行业定制的 LLM。
Hugging Face Hub 在 AWS Marketplace
Hugging Face 将其 Hub 与 AWS Marketplace 集成，使组织能够直接通过其 AWS 账户为诸如 Inference Endpoints 和 AutoTrain 之类的托管服务付费。
使用 BentoML 部署 DeepFloyd IF
Hugging Face 演示了如何使用 BentoML 部署 DeepFloyd IF 文本到图像模型，使其多阶段像素扩散架构能够在多个 GPU 上独立扩展。
使用 🤗 Transformers 优化 Bark
Hugging Face 演示了如何使用 Better Transformer、半精度（fp16）和 CPU 卸载来减少 Bark 文本转语音模型的内存占用并提高推理速度。
Claude Instant 1.2 发布说明
Anthropic 已发布 Claude Instant 1.2，这是一个更快且价格更低的模型，在数学、编程、推理和安全性方面均优于 1.1 版本。
Swift Transformers 发布：在 Apple 设备上运行 On-Device LLMs
Hugging Face 发布了 alpha版 swift-transformers Swift 包、swift-chat 演示应用、已更新的 exporters 和 transformers-to-coreml 工具，以及 Llama 2 7B 和 Falcon 7B 的 Core ML 版本，使开发者能够在 Apple 应用中运行设备端 LLMs。
使用 TRL 通过 Direct Preference Optimization (DPO) 微调 Llama 2
Hugging Face 已将 Direct Preference Optimization (DPO) 集成到 TRL 库中，使用简化的二元交叉熵损失而不是复杂的 RLHF 管道来对齐 Llama 2 和其他 LLMs。
使用影响函数研究大语言模型的泛化能力
Anthropic 研究人员使用 EK-FAC 近似将影响函数扩展到参数高达 520 亿的大语言模型，从而能够识别驱动模型行为的具体训练样本。
Anthropic 研究：使用影响函数将模型输出追溯至训练数据
Anthropic 研究人员将影响函数扩展到了参数量高达 520 亿的 LLM，并发现随着模型规模的增加，模型的泛化变得更加抽象且由概念驱动。
通过 Hugging Face 推理端点部署 MusicGen
Hugging Face 演示了如何使用推理端点和自定义处理程序将 MusicGen（一种文本到音乐生成模型）作为 API 部署，以支持标准管线不支持的模型。
使用 FHE 的加密大型语言模型之路
Hugging Face 和 Zama 演示了 Fully Homomorphic Encryption (FHE) 如何使大型语言模型能够处理加密的用户数据，同时保护模型所有者的知识产权。
Huggy Lingo: 使用机器学习改进 Hugging Face Hub 语言元数据
Hugging Face 正在使用 fastText 语言识别模型和 Librarian-Bots 自动检测并为当前缺少语言元数据的数据集提出建议。
人工智能的置信建立措施
OpenAI 和伯克利风险与安全实验室提出六项置信建立措施（CBM），以减轻基础模型带来的国际安全风险。
Practical 3D Asset Generation Guide
Hugging Face 提供了一种逐步工作流程，通过结合 OpenAI 的 Shap-E 模型、Blender 和 Dream Textures 来创建低保真、PS1 风格的 3D 资产。
Segmind SD-Small 和 SD-Tiny 知识蒸馏发布
Segmind 开源了 SD‑Small 和 SD‑Tiny 的代码和预训练权重，这两个扩散模型相比 Stable Diffusion 小了 35% 和 55%，同时实现了最高 2× 的推理速度提升。
使用 Ollama 在本地运行未经审查的 Llama 2 模型
Ollama 允许用户在本地运行 Llama 2 和其他模型的未经审查版本，从而移除了通常会导致标准模型过于谨慎或拒绝回答的对齐约束。
在Mac上使用高级Core ML量化的Stable Diffusion XL
Hugging Face 和 Apple 已将 Stable Diffusion XL 移植到 Core ML，引入混合位调色板量化技术，在保持 Apple Silicon Mac 上图像质量的同时将 UNet 大小降低了 71%。
前沿模型论坛公告
OpenAI、Google、Microsoft 和 Anthropic 已启动前沿模型论坛，以协调前沿 AI 模型开发的安全标准、研究和信息共享。
Anthropic 为 AI 安全进行前沿威胁红队测试
Anthropic 建立了一个前沿威胁红队测试框架，以识别并缓解国家安全风险，特别发现未经过缓解措施的 LLM 可能会在未来两到三年内加速生物武器化的进程。
Anthropic 前沿模型安全框架
Anthropic 提出了一套基于多方授权和安全软件开发标准的前沿 AI 模型安全框架，以防止盗窃和滥用。
Agents.js 发布：使用 JavaScript 为 LLMs 提供工具
Hugging Face 已发布 Agents.js，一个 JavaScript 库，使 LLMs 能够在浏览器或服务器上访问和执行工具。
Hugging Face 及合作伙伴概述欧盟 AI 法案的开放机器学习考量
Hugging Face 与创意共用、Eleuther AI、GitHub、LAION 和 Open Future 组成的联盟提出了五项关键建议，以确保欧盟 AI 法案支持开源机器学习发展。
OpenAI AI治理承诺
OpenAI 已承诺建立一个框架，包括内部和外部红队演练、信息共享、AI 生成内容识别以及对模型能力和社会风险的透明报告。
Hugging Face 开源 AI 游戏 Jam 结果
Hugging Face 举办了首届开源 AI 游戏 Jam，共收到 88 次游戏提交，这些游戏在资源、编码和玩法机制中融合了开源 AI 工具。
ChatGPT 自定义指令发布
OpenAI 已为 ChatGPT 引入了自定义指令，使用户能够设置持久的偏好和需求，模型将在所有未来对话中考虑这些设置。
Hugging Face Diffusers 首周年概览
Hugging Face 庆祝 Diffusers 库的第一周年，突显其发展为一个用于文本到图像、视频、3D 和音频生成的模块化工具箱。
OpenAI 与美国新闻项目合作以支持本地新闻
OpenAI 通过承诺提供 1000 万美元的资金和 API 积分，与美国新闻项目（AJP）建立合作伙伴关系，以探索 AI 如何增强本地新闻并对抗错误信息。
Llama 2 发布与 Hugging Face 集成
Meta 发布了 Llama 2，这是一个可用于商业用途的开放获取大型语言模型系列，并已全面集成到 Hugging Face 生态系统中。
Anthropic 展示问题分解能提升模型生成推理的忠实度
Anthropic 宣布，与标准的思维链提示相比，将问题分解为子问题可以显著提高大语言模型推理的忠实度。
Anthropic 关于思维链推理忠实度的研究
Anthropic 发现，较大的语言模型经常生成不忠实的思维链解释，且忠实度在不同任务和模型规模之间存在很大差异。
Hugging Face AI WebTV：构建自动化视频与音乐合成流
Hugging Face 开发了 AI WebTV，这是一个实验性演示，利用 Zeroscope 和 MusicGen 从 LLM 生成的提示词中自动合成视频和音乐流。
开源文本生成 & LLM 生态系统 在 Hugging Face
Hugging Face 的 2023 年博客文章调查了开源文本生成和 LLM 生态系统，涵盖了模型背景、许可证、服务工具和参数高效微调。
使用 Hugging Face Diffusers 在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion
Hugging Face 展示了如何仅使用五张示例图像，通过文本反转（textual inversion）在 Intel Sapphire Rapids CPU 上微调 Stable Diffusion 模型，演示了通过 Intel Extension for PyTorch 和 oneCCL 实现的基于 CPU 的微调。
Claude 2 发布说明
Anthropic 发布了 Claude 2，具备 100K 标记的上下文窗口，编码和推理性能提升，相比 Claude 1.3 安全性更强。
使用 Viable 和 GPT-4 分析大规模定性数据
Viable 利用经过微调的 GPT-4 模型，超越简单摘要，提供准确的大规模定性数据分析以获得业务洞察。
OpenAI 前沿 AI 监管提案
OpenAI 和一个多学科研究者小组提出了一种监管框架，用于通过标准制定、注册和合规机制来管理前沿 AI 模型的公共安全风险。
使用 Transformers.js 制作基于机器学习的网页游戏
Hugging Face 演示了如何使用 Transformers.js 和一个微调的 MobileViT 模型创建 Doodle Dash，这是一个完全在浏览器中运行的实时草图检测游戏。
使用 Hugging Face Inference Endpoints 部署 LLMs
Hugging Face Inference Endpoints 是一个托管的 SaaS 解决方案，使开发者能够将开源 LLMs 部署为生产就绪的 API，具备自动扩容、scale-to-zero 和企业级安全等功能。
Hugging Face: 使用开放机器学习模型构建 Web 应用生成器
Hugging Face 演示了如何使用 NodeJS、WizardCoder-15B 模型和 Hugging Face Inference Endpoints API 构建文本到 Web 应用的生成器。
利用 Hugging Face 进行复杂生成式 AI 用例：Writer 案例研究
Hugging Face 强调了其与 Writer 的合作伙伴关系，展示了该公司如何从用户发展为客户和开源贡献者，同时利用 Hugging Face Expert 加速计划实现可扩展的 LLM 生产。
OpenAI 全球对话：洞察与战略重点领域
OpenAI 在 25 座城市和 6 大洲进行了全球倾听之旅，以收集用户、开发者和政策制定者的反馈，以完善其 AI 开发和部署策略。
加速视觉-语言模型：BridgeTower 在 Habana Gaudi2 上
Hugging Face 表明，在 Habana Gaudi2 上使用 Optimum Habana 对 BridgeTower 视觉-语言模型进行微调，通过增加 dataloader 工作进程数和硬件加速的图像解码，可实现比 Nvidia A100 高达 2.5×、比 H100 高 1.4× 的加速。
Anthropic 推出 GlobalOpinionQA 框架，用于衡量 LLM 中主观全球观点的表示
Anthropic 发布了 GlobalOpinionQA，这是一个数据集和定量框架，揭示了大语言模型通常反映美国及某些欧洲的观点，并展示了提示词或翻译如何可以改变但不能完全纠正这些偏差。
OpenAI伦敦办公室开幕
OpenAI 在伦敦开设了其首个国际办事处，以扩大其研发足迹并吸引全球人才，以发展安全的 AGI。
Hugging Face Ethics and Society Newsletter 第4期：文本到图像模型中的偏见
Hugging Face 概述了文本到图像模型中偏见的复杂来源，并提出了一种多管齐下的方法，使用探索工具、红队测试和文档来检测和缓解这些偏见。
Hugging Face Open LLM Leaderboard MMLU 评估分析
Hugging Face 解释了 MMLU 基准测试中不同的实现细节如何导致同一 LLM 的性能评分和排名出现显著差异。