✷ 归档 · 11 个实验室 · 3,058 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
乐天与OpenAI合作：利用生成式AI获取客户洞察
乐天正在利用OpenAI的API、RAG和Code Interpreter，将非结构化数据转化为自动化客服、评论摘要和B2B市场洞察。
Mistral AI 模型定制与 Agents 发布
Mistral AI 为包括 Mistral Large 2 和 Codestral 在内的旗舰模型引入了模型定制功能，同时发布了 Agents 的 Alpha 版本以及其客户端 SDK 的稳定 1.0 版本。
OpenAI 结构化输出 API 功能公告
OpenAI 于 2024 年 8 月 6 日推出了结构化输出，这是一项新的 API 功能，能够保证模型响应完全匹配开发者提供的 JSON Schema，提升面向数据的应用的可靠性。
Hugging Face TextImage Augmentation 管道发布
Hugging Face 和 Albumentations AI 发布了一个 TextImage Augmentation 管道，能够联合修改文档图像及其文本，实现真实的合成数据生成，并在有限的文档数据集上对视觉‑语言模型进行稳健的微调。
Hugging Face 2024 安全功能亮点
Hugging Face 详细阐述了其 2024 年的安全格局，推出了一套面向所有用户的默认防护措施以及面向 Enterprise Hub 用户的高级治理控制。
Claude AI 在巴西的可用性
Anthropic 已通过 Web、移动应用和 API 将其 AI 助手 Claude 的可用性扩展到了巴西的消费者和企业。
Google 发布 Gemma 2 2B、ShieldGemma 和 Gemma Scope
Google 发布了 Gemma 2 2B、ShieldGemma 安全分类器和 Gemma Scope 稀疏自编码器，扩展了开源大语言模型的能力、审查工具和可解释性资源。
Anthropic Circuits Updates July 2024
Anthropic 在 2024 年 7 月发布了一系列初步研究更新，重点关注可解释性、多智能体系统故障以及在尚未发布的 Claude 研究版本中取得的数学突破。
Quanto 量化削减 Transformer 扩散管线的内存占用
Hugging Face 的量化（Quanto）将 Transformer 扩散模型的 GPU 内存从约 12 GB 降至约 5 GB，且对延迟和质量的影响极小。
Hugging Face NVIDIA NIM API（无服务器）发布与停用
Hugging Face 为 Enterprise Hub 用户推出了 NVIDIA NIM API（无服务器），通过兼容 OpenAI 的 API，实现了在 NVIDIA DGX Cloud H100 GPU 上按需付费的开源大语言模型无服务器推理。
LAVE：使用大型语言模型对 Docmatix 进行零样本 VQA 评估
Hugging Face 推出 LAVE（大型语言模型辅助的 VQA 评估），旨在解决传统 VQA 指标的僵硬性，在对 Docmatix 数据集的零样本性能评估中实现了约 50% 的准确率提升。
OpenAI SearchGPT 原型发布公告
OpenAI 推出了 SearchGPT，这一临时原型将 AI 模型与实时网络信息相结合，提供带有明确来源引用的直接答案。
Ollama 工具支持发布
Ollama 为 Llama 3.1 等模型引入了工具调用支持，允许本地 LLM 与外部 API、函数和代码解释器进行交互。
Mistral Large 2 发布说明 / 更新内容
Mistral AI 发布了 Mistral Large 2，这是一个拥有 123B 参数的模型，旨在实现高吞吐量单节点推理，并在编程、推理和多语言能力方面具有竞争力的性能。
OpenAI 基于规则的奖励用于模型安全
OpenAI 推出了基于规则的奖励（RBR），一种使用明确、逐步规则来对齐 AI 安全行为的方法，无需大量人工数据收集。
Llama 3.1 发布说明：多语言、长上下文和 405B 模型
Meta 已发布 Llama 3.1，提供 8B、70B 和 405B 大小的模型，具备 128K 上下文长度、对 8 种语言的多语言支持，以及允许合成数据生成的宽松许可证。
使用 Core ML 运行 Mistral 7B
Hugging Face 演示了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能运行 Mistral 7B，并通过 4 位块状量化将模型大小压缩至 4GB 以下。
GPT-4o mini 发布说明 / 新功能
OpenAI 已发布 GPT-4o mini，这是一款成本极低的小模型，在关键推理和多模态基准上超越了 GPT-3.5 Turbo 以及其他小模型。
Mistral NeMo 发布说明
Mistral AI 与 NVIDIA 发布了 Mistral NeMo，这是一个拥有 128k 上下文窗口的 12B 参数模型，并配备了一种名为 Tekken 的全新高效多语言分词器。
Docmatix 数据集发布
Hugging Face 发布了 Docmatix，这是一套文档视觉问答（DocVQA）数据集，包含 240 万张图像和 950 万个问答对，规模比之前的数据集提升了 240 倍。
TGI Multi-LoRA：一次部署，服务 30 个模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服务，使组织能够部署单一基础模型并动态提供数十个专用微调适配器，从而降低成本和运营复杂性。
ChatGPT 企业合规与管理工具更新
OpenAI 推出了合规 API、用于自动化用户管理的 SCIM，以及细粒度的 GPT 控制，帮助企业客户满足监管要求并安全地扩展 AI 部署。
OpenAI 证明者‑验证者游戏提升语言模型输出的可读性
OpenAI 宣布了一种证明者‑验证者游戏训练方法，使强大的语言模型生成的解答能够被较弱的模型验证，从而提升正确性和人类可读性。
Anthropic 和 Menlo Ventures 推出 1000 万美元 Anthology 基金
Anthropic 和 Menlo Ventures 推出 1 亿美元 Anthology 基金，以加速 AI 应用在基础设施、行业专用工具和信任与安全领域的开发。
Codestral Mamba 发布说明
Mistral AI 发布了 Codestral Mamba，这是一个采用 Mamba 架构的 7B 参数模型，可提供线性时间推理和高性能的代码与推理能力。
Mathstral 7B 发布
Mistral AI 已发布 Mathstral，这是一个专为 STEM 学科和高级数学推理而设计的 7B 参数模型，由 Mistral AI 与 Project Numina 合作开发。
Argilla SDK 聊天机器人（使用 distilabel）– 端到端教程
Hugging Face 发布了一个教程，展示如何使用 distilabel 生成的合成数据、微调的嵌入、lancedb 向量存储以及在 Spaces 部署的 Gradio 应用来构建 Argilla 2.0 聊天机器人。
SmolLM 发布：高性能小语言模型
Hugging Face 推出了 SmolLM，这是一个由最先进的小语言模型（135M、360M 和 1.7B 参数）组成的家族，这些模型是在精心策划的高质量数据集上训练而成的。
NuminaMath 7B TIR 获得 AIMO 进步奖 – 技术回顾
NuminaMath 7B TIR 通过解答 50 道隐藏数学题中的 29 道，赢得了首届 AIMO 进步奖，展示了两阶段微调方案、大规模高质量数学数据以及自洽+工具集成推理推断策略的强大威力。
OpenAI 和 洛斯阿拉莫斯国家实验室 生物科学研究 合作伙伴关系
OpenAI 和 洛斯阿拉莫斯国家实验室 已合作 评估 多模态 前沿 AI 模型（如 GPT-4o）如何 在 实验室 物理 环境 中 安全 地 辅助 科学家 以 推进 生物科学 研究。
Hugging Face 使用 Presidio 进行 PII 检测实验
Hugging Face 正在尝试将 Microsoft Presidio 集成到 Dataset Hub，以提供自动 PII 检测报告，帮助从业者识别和缓解 ML 数据集中的隐私风险。
TRL 为视觉语言模型添加直接偏好优化支持
Hugging Face 在 TRL 库中为视觉语言模型添加了直接偏好优化（DPO）支持，使得可以使用偏好数据对 Idefics‑2 等模型进行微调，并通过 bfloat16 量化和 LoRA 适配器在单个 GPU 上完成训练。
Hugging Face 与 KerasHub 集成
Hugging Face 与 KerasHub 现在共享模型保存格式，使 KerasHub 用户能够直接加载来自 Hugging Face Hub 的超过 30 万个 Transformers 库模型。
Google Cloud TPU 在 Hugging Face 推理端点和 Spaces 上的使用
Hugging Face 已将 Google Cloud TPU v5e 支持集成到推理端点和 Spaces 中，使用户能够使用成本效益高且性能强大的硬件部署和扩展 AI 模型。
Banque des Territoires、Polyconseil 与 Hugging Face 为 EduRénov 项目部署主权 RAG 解决方案
Hugging Face、Polyconseil 与 Banque des Territoires 推出了一套主权、开源的 RAG 系统，用于自动化法国 EduRénov 学校改造项目的邮件支持，确保数据驻留，同时在公共政策领域扩展生成式 AI 的规模。
Hugging Face 数据集中心搜索功能更新
Hugging Face 引入了四个全新搜索过滤器——模态、规模、格式和库兼容性，以提升 Dataset Hub 上超过 180,000 个公共数据集的可发现性。
在 Intel Gaudi 2 上加速蛋白质语言模型 ProtST
Intel 和 MILA 已针对 Intel Gaudi 2 加速器优化了 ProtST 多模态蛋白质语言模型，实现了相较于 NVIDIA A100 GPU 高达 2.92 倍的微调加速。
Hugging Face Transformers 代码代理 GAIA 基准测试结果
Hugging Face 使用基于 transformers.agents 库构建的代码代理在 GAIA 基准测试中取得了最高排名，证明了代码化操作比基于 JSON 的工具调用更高效、更有效。
Anthropic 第三方模型评估计划
Anthropic 启动了一项资助计划，旨在支持第三方组织开发高质量的评估工具，以衡量先进的 AI 能力和安全风险。
Anthropic Circuits Updates June 2024
Anthropic 2024 年 6 月的 Circuits 更新提供了关于可解释性、多智能体系统故障以及 Riemann zeta function 数学能力进展的初步研究结果。
使用 GPT-4 查找 GPT-4 的错误
OpenAI 推出了 CriticGPT，这是一款基于 GPT-4 的模型，旨在识别 ChatGPT 代码输出中的错误，以在 RLHF 过程中帮助人工训练师。
OpenAI 与 TIME 战略内容合作伙伴关系
OpenAI 与 TIME 已达成多年期的战略合作伙伴关系，将 TIME 长达 101 年的新闻档案整合到 OpenAI 产品中，并为 TIME 提供 OpenAI 技术以用于产品开发。
Google Gemma 2 发布说明
Google 已发布 Gemma 2，这是一系列开放权重的大语言模型，提供 9B 和 27B 参数规模，采用蒸馏和注意力机制等技术创新以提升性能。
Google Gemma 2 在 Ollama 上发布
Google Gemma 2 提供 2B、9B 和 27B 参数变体，现已在 Ollama 上发布，采用全新的架构，提供同类领先的性能和效率，性能优于更大的开源模型。
Anthropic 为政府机构扩大 Claude 访问权限
Anthropic 已将 Claude 3 Haiku 和 Claude 3 Sonnet 提供给美国情报界和 AWS GovCloud，通过安全、专门的服务协议来支持政府任务。
XLSCOUT ParaEmbed 2.0 发布
XLSCOUT 已发布 ParaEmbed 2.0，这是一款在专家策划的专利数据上微调的专有嵌入模型，准确率比 ParaEmbed 1.0 提高了 23%。
Anthropic 推出了用于协作式 AI 工作流的 Claude Projects
Anthropic 为 Claude Pro 和 Team 用户推出了 Projects，允许他们在 200K 的上下文窗口内，通过精选的知识集和自定义指令来组织聊天记录。
Hugging Face伦理与社会通讯 #6：数据质量的重要性
Hugging Face概述了一种整体且负责任的数据质量方法，强调高质量数据必须适合其预期用途，以确保AI模型性能、公平性和科学可重复性。
微调 Microsoft Florence-2 用于 DocVQA
Hugging Face 演示了如何在 DocVQA 数据集上微调微软的 Florence-2 视觉语言模型，经过七个 epoch 后，验证相似度从 0 提升至 57.0。
OpenAI 收购 Rockset 以实现实时数据检索
OpenAI 收购了实时分析数据库 Rockset，以将其高性能索引和查询能力整合到 OpenAI 的检索基础设施中。