✷ 归档 · 11 个实验室 · 3,427 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
Upwork OpenAI 集成与 AI 优先策略
Upwork 已转向以 OpenAI 为中心的生态系统，将 GPT-4o 和 GPT-3.5 融入其市场功能、内部欺诈检测以及通过 ChatGPT Enterprise 提升企业生产力。
OpenAI 推出 GPT‑4o 微调功能，提供免费令牌配额并宣布平台下线
OpenAI 推出 GPT‑4o 微调功能，使开发者能够使用极少的数据定制模型，并提供免费训练令牌至 9 月 23 日，同时宣布平台将在 2026 年 5 月 8 日后对新用户关闭。
在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 提供了一份指南，介绍如何使用文本生成推理（TGI）和 A3 机器系列在 Google Cloud Vertex AI 上以编程方式部署 Meta Llama 3.1 405B 的 FP8 量化版本。
OpenAI 打击伊朗影响行动 Storm-2035
OpenAI 已封禁一批被伊朗影响行动 Storm-2035 用于在 2024 年美国大选及其他全球事件中生成政治内容的 ChatGPT 账户。
Indeed 基于上下文的职位匹配与 OpenAI
Indeed 集成了 OpenAI 的 GPT 模型，为职位推荐提供个性化解释，导致已启动的职位申请增加了 20%，下游成功率提升了 13%。
OpenAI 与大都会艺术博物馆合作：唤醒沉睡的美人
OpenAI 与大都会艺术博物馆的服装学院合作，创建了一个基于精选历史数据集的 AI 聊天体验，使参观者能够与历史人物 Natalie Potter 互动。
Hugging Face Infini-Attention 复现分析
Hugging Face 对 Infini-Attention 的复现尝试发现，尽管可以改进门控收敛，但随着记忆压缩的增加，方法的性能会下降，且仍不如 Ring Attention、YaRN 或 RoPE scaling 可靠。
OpenAI SWE-bench Verified 发布：经人工验证的基准提升软件工程评估
OpenAI 发布了 SWE‑bench Verified，这是 SWE‑bench 软件工程基准的经人工验证的 500 条样本子集，去除了模糊的问题和不公平的测试，使得对 AI 模型编码能力的评估更加可靠；GPT‑4o 在这些样本中解决率为 33.2%，是原基准得分的两倍多。
ggml 简介
ggml 是一个轻量级的 C/C++ 机器学习库，针对 Transformer 推理和跨多种硬件后端的设备端 LLM 执行进行了优化。
Grok-2 Beta 发布
xAI 发布了 Grok-2 和 Grok-2 mini 的 beta 版本，其在聊天、编程和推理方面具有前沿水平的能力，在 LMSYS 排行榜上超越了 Claude 3.5 Sonnet 和 GPT-4 Turbo。
Hugging Face 统一工具使用 API
Hugging Face 已推出统一的工具使用 API，使开发者能够使用相同的代码在 Mistral、Cohere、NousResearch 和 Llama 模型之间实现工具调用。
Falcon Mamba 7B 发布说明
技术创新研究所（TII）发布了 Falcon Mamba 7B，这是首个大规模纯状态空间语言模型（SSLM），其性能可与最先进的 Transformer 模型相匹配，同时消除了基于注意力的内存扩展问题。
Qwen2-Audio 发布说明
Qwen2-Audio 是一种音频语言模型，能够进行语音聊天和音频分析，支持超过八种语言和方言，在多个基准测试中超越了之前的最先进性能。
Zico Kolter 加入 OpenAI 董事会
OpenAI 任命 Zico Kolter——卡内基梅隆大学计算机科学教授兼机器学习系主任——加入其董事会及安全与安保委员会。
Hugging Face 收购 XetHub 以升级 Hub 存储和协作
Hugging Face 收购 XetHub，以用更高效的存储后端取代 Git LFS，实现增量更新、万亿参数模型支持以及对海量 AI 数据集的更佳协作。
GPT‑4o 系统卡 – 能力、安全缓解措施与风险评估
OpenAI 发布了 GPT‑4o 系统卡，详细说明了该全能模型的能力、安全缓解措施以及中等的整体风险评级。
Anthropic 扩大模型安全漏洞赏金计划
Anthropic 宣布了一项扩大的、仅限受邀参加的漏洞赏金计划，旨在奖励发现其下一代 AI 安全缓解措施中通用越狱攻击的行为，奖励金额最高可达 15,000 美元，目标是保护 CBRN 和网络安全等高风险领域。
OpenAI 赋能数据驱动型员工网络研讨会
OpenAI 于 2024 年 8 月 8 日发布了一场网络研讨会，展示了员工如何使用 ChatGPT Enterprise 分析数据并发现见解。
Qwen2-Math 发布说明
Qwen 发布了 Qwen2-Math，一系列专门用于数学的 LLM（1.5B、7B 和 72B），在数学基准测试中超越了包括 GPT-4o 在内的多个闭源模型。
乐天与OpenAI合作：利用生成式AI获取客户洞察
乐天正在利用OpenAI的API、RAG和Code Interpreter，将非结构化数据转化为自动化客服、评论摘要和B2B市场洞察。
Mistral AI 模型定制与 Agents 发布
Mistral AI 为包括 Mistral Large 2 和 Codestral 在内的旗舰模型引入了模型定制功能，同时发布了 Agents 的 Alpha 版本以及其客户端 SDK 的稳定 1.0 版本。
OpenAI 结构化输出 API 功能公告
OpenAI 于 2024 年 8 月 6 日推出了结构化输出，这是一项新的 API 功能，能够保证模型响应完全匹配开发者提供的 JSON Schema，提升面向数据的应用的可靠性。
Hugging Face TextImage Augmentation 管道发布
Hugging Face 和 Albumentations AI 发布了一个 TextImage Augmentation 管道，能够联合修改文档图像及其文本，实现真实的合成数据生成，并在有限的文档数据集上对视觉‑语言模型进行稳健的微调。
Hugging Face 2024 安全功能亮点
Hugging Face 详细阐述了其 2024 年的安全格局，推出了一套面向所有用户的默认防护措施以及面向 Enterprise Hub 用户的高级治理控制。
Claude AI 在巴西的可用性
Anthropic 已通过 Web、移动应用和 API 将其 AI 助手 Claude 的可用性扩展到了巴西的消费者和企业。
Google 发布 Gemma 2 2B、ShieldGemma 和 Gemma Scope
Google 发布了 Gemma 2 2B、ShieldGemma 安全分类器和 Gemma Scope 稀疏自编码器，扩展了开源大语言模型的能力、审查工具和可解释性资源。
Anthropic Circuits Updates July 2024
Anthropic 在 2024 年 7 月发布了一系列初步研究更新，重点关注可解释性、多智能体系统故障以及在尚未发布的 Claude 研究版本中取得的数学突破。
Quanto 量化削减 Transformer 扩散管线的内存占用
Hugging Face 的量化（Quanto）将 Transformer 扩散模型的 GPU 内存从约 12 GB 降至约 5 GB，且对延迟和质量的影响极小。
Hugging Face NVIDIA NIM API（无服务器）发布与停用
Hugging Face 为 Enterprise Hub 用户推出了 NVIDIA NIM API（无服务器），通过兼容 OpenAI 的 API，实现了在 NVIDIA DGX Cloud H100 GPU 上按需付费的开源大语言模型无服务器推理。
LAVE：使用大型语言模型对 Docmatix 进行零样本 VQA 评估
Hugging Face 推出 LAVE（大型语言模型辅助的 VQA 评估），旨在解决传统 VQA 指标的僵硬性，在对 Docmatix 数据集的零样本性能评估中实现了约 50% 的准确率提升。
OpenAI SearchGPT 原型发布公告
OpenAI 推出了 SearchGPT，这一临时原型将 AI 模型与实时网络信息相结合，提供带有明确来源引用的直接答案。
Ollama 工具支持发布
Ollama 为 Llama 3.1 等模型引入了工具调用支持，允许本地 LLM 与外部 API、函数和代码解释器进行交互。
Mistral Large 2 发布说明 / 更新内容
Mistral AI 发布了 Mistral Large 2，这是一个拥有 123B 参数的模型，旨在实现高吞吐量单节点推理，并在编程、推理和多语言能力方面具有竞争力的性能。
OpenAI 基于规则的奖励用于模型安全
OpenAI 推出了基于规则的奖励（RBR），一种使用明确、逐步规则来对齐 AI 安全行为的方法，无需大量人工数据收集。
Llama 3.1 发布说明：多语言、长上下文和 405B 模型
Meta 已发布 Llama 3.1，提供 8B、70B 和 405B 大小的模型，具备 128K 上下文长度、对 8 种语言的多语言支持，以及允许合成数据生成的宽松许可证。
使用 Core ML 运行 Mistral 7B
Hugging Face 演示了如何在 Mac 上使用 WWDC 24 推出的新 Core ML 功能运行 Mistral 7B，并通过 4 位块状量化将模型大小压缩至 4GB 以下。
GPT-4o mini 发布说明 / 新功能
OpenAI 已发布 GPT-4o mini，这是一款成本极低的小模型，在关键推理和多模态基准上超越了 GPT-3.5 Turbo 以及其他小模型。
Mistral NeMo 发布说明
Mistral AI 与 NVIDIA 发布了 Mistral NeMo，这是一个拥有 128k 上下文窗口的 12B 参数模型，并配备了一种名为 Tekken 的全新高效多语言分词器。
Docmatix 数据集发布
Hugging Face 发布了 Docmatix，这是一套文档视觉问答（DocVQA）数据集，包含 240 万张图像和 950 万个问答对，规模比之前的数据集提升了 240 倍。
TGI Multi-LoRA：一次部署，服务 30 个模型
Hugging Face 在文本生成推理（TGI）中引入了 Multi-LoRA 服务，使组织能够部署单一基础模型并动态提供数十个专用微调适配器，从而降低成本和运营复杂性。
ChatGPT 企业合规与管理工具更新
OpenAI 推出了合规 API、用于自动化用户管理的 SCIM，以及细粒度的 GPT 控制，帮助企业客户满足监管要求并安全地扩展 AI 部署。
OpenAI 证明者‑验证者游戏提升语言模型输出的可读性
OpenAI 宣布了一种证明者‑验证者游戏训练方法，使强大的语言模型生成的解答能够被较弱的模型验证，从而提升正确性和人类可读性。
Anthropic 和 Menlo Ventures 推出 1000 万美元 Anthology 基金
Anthropic 和 Menlo Ventures 推出 1 亿美元 Anthology 基金，以加速 AI 应用在基础设施、行业专用工具和信任与安全领域的开发。
Codestral Mamba 发布说明
Mistral AI 发布了 Codestral Mamba，这是一个采用 Mamba 架构的 7B 参数模型，可提供线性时间推理和高性能的代码与推理能力。
Mathstral 7B 发布
Mistral AI 已发布 Mathstral，这是一个专为 STEM 学科和高级数学推理而设计的 7B 参数模型，由 Mistral AI 与 Project Numina 合作开发。
Argilla SDK 聊天机器人（使用 distilabel）– 端到端教程
Hugging Face 发布了一个教程，展示如何使用 distilabel 生成的合成数据、微调的嵌入、lancedb 向量存储以及在 Spaces 部署的 Gradio 应用来构建 Argilla 2.0 聊天机器人。
SmolLM 发布：高性能小语言模型
Hugging Face 推出了 SmolLM，这是一个由最先进的小语言模型（135M、360M 和 1.7B 参数）组成的家族，这些模型是在精心策划的高质量数据集上训练而成的。
NuminaMath 7B TIR 获得 AIMO 进步奖 – 技术回顾
NuminaMath 7B TIR 通过解答 50 道隐藏数学题中的 29 道，赢得了首届 AIMO 进步奖，展示了两阶段微调方案、大规模高质量数学数据以及自洽+工具集成推理推断策略的强大威力。
OpenAI 和 洛斯阿拉莫斯国家实验室 生物科学研究 合作伙伴关系
OpenAI 和 洛斯阿拉莫斯国家实验室 已合作 评估 多模态 前沿 AI 模型（如 GPT-4o）如何 在 实验室 物理 环境 中 安全 地 辅助 科学家 以 推进 生物科学 研究。
Hugging Face 使用 Presidio 进行 PII 检测实验
Hugging Face 正在尝试将 Microsoft Presidio 集成到 Dataset Hub，以提供自动 PII 检测报告，帮助从业者识别和缓解 ML 数据集中的隐私风险。