✷ 归档 · 11 个实验室 · 3,059 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
OpenAI 推出 ChatGPT 与 Whisper API
OpenAI 已发布 GPT-3.5 Turbo 和 Whisper API，为开发者提供显著的成本降低和高性能的语音转文本能力。
GPT-4 API 正式可用及 Completions API 弃用
OpenAI 已向所有付费客户正式开放 GPT-4 API，并公布了对 Completions、Embeddings 和 Edits API 中旧模型的弃用计划。
OpenAI儿童安全承诺：采用安全设计原则
OpenAI 与其他行业领袖已承诺实施安全设计原则，以降低生成式 AI 对儿童的风险，重点在于防止儿童性虐待材料（CSAM）和剥削材料（CSEM）。
OpenAI 企业 API 功能更新 2024年4月
OpenAI 引入了全新的企业级安全、管理控制、Assistants API 增强功能以及成本管理选项，以支持大型组织的 AI 解决方案规模化。
Hugging Face 开放链式思考排行榜
Hugging Face 推出了开放链式思考排行榜，用于衡量链式思考提示在各种大型语言模型上对复杂推理任务所带来的特定准确率提升。
Anthropic 宣布儿童安全原则倡议
Anthropic 宣布与 Thorn 和 All Tech Is Human 合作，采用旨在防止生成式 AI 创建或传播儿童性虐待内容的“安全设计”原则。
Anthropic 的简单探测器可识别潜伏代理
Anthropic 提出了基于线性“叛变探测器”的方法，仅使用通用对比对即可实现 >99% 的 AUROC，有效识别潜伏代理大模型行为，展现出一种极具前景、低成本的 AI 安全可解释性工具。
全能型（JAT）多用途变压器代理
Hugging Face 推出全能型（JAT），一种基于单一 Transformer 的代理，能够在 Atari、BabyAI、Meta-World 和 MuJoCo 环境中执行多样的序列决策任务。
OpenAI 指令层级：优先处理特权指令以防止提示注入
OpenAI 引入了指令层级，训练大型语言模型优先处理系统提示而非不可信的用户输入，从而显著降低了对提示注入和越狱的易受攻击性。
开放医学-LLM 排行榜：在医疗领域对大型语言模型进行基准评估
Hugging Face 推出了开放医学-LLM 排行榜，一个标准化平台，用于在多样化医学数据集上评估和比较 LLM 的性能，以提升可靠性和患者安全。
Llama 3 拒绝率与审查对比
Llama 3 的误拒绝率显著低于 Llama 2，在减少对良性提示词过度拒绝的同时，仍能提供技术协助。
Meta Llama 3 发布说明
Meta 发布了 Llama 3，这是一款开放获取的 LLM 系列，提供 8B 和 70B 参数模型，具备改进的分词器，并在 15 万亿 token 上进行训练。
Llama 3 在 Ollama 上的可用性
Ollama 已发布对 Llama 3 的支持，提供 8B 和 70B 参数模型，相较于 Llama 2 在训练数据、上下文长度和分词效率方面均有显著提升。
Mixtral 8x22B 发布说明
Mistral AI 发布了 Mixtral 8x22B，这是一款拥有 141B 总参数和 39B 激活参数的稀疏混合专家模型，在 Apache 2.0 许可下提供高性能和高成本效益。
CodeQwen1.5 发布说明
Qwen 已发布 CodeQwen1.5-7B，这是一款支持 92 种编程语言和 64K token 上下文窗口的开源代码大模型，以提升开发者生产力。
Ryght 案例研究：使用 Hugging Face 构建生命科学生成式 AI 平台
Ryght 已推出 Ryght Preview，这是一款面向医疗保健和生命科学的企业级生成式 AI 平台，利用 Hugging Face 的专家支持、TGI 和 TEI，提供安全、灵活且高性能的 AI 副驾驶。
在 Hugging Face 端点上运行隐私保护推理
Hugging Face 与 Zama 已实现通过 Hugging Face 端点部署全同态加密（FHE）模型，使用户能够在加密数据上进行机器学习推理，而无需解密。
LiveCodeBench 排行榜：无污染的代码 LLM 评估
Hugging Face 推出了 LiveCodeBench 排行榜，这是一项由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发的新基准，用于评估 LLM 的代码生成和推理能力，并通过时间窗口问题集防止基准污染。
Gradio 重载模式加速 AI 应用开发
Gradio 的重载模式使开发者能够在不重启服务器的情况下即时将源代码更改应用到 AI 应用中，显著降低开发延迟。
Idefics2 8B 视觉语言模型发布 – 架构、数据与性能
Hugging Face 发布了 Idefics2，这是一款 8B 开源视觉语言模型，在 VQA 和 OCR 基准测试中优于其他 8B 模型，并可通过 🤗 Transformers 进行微调。
OpenAI 日本发布与 GPT-4 日语定制模型
OpenAI 在东京开设了首个亚洲办事处，并发布了针对日语优化的 GPT-4 定制模型，其运行速度比 GPT-4 Turbo 快至 3 倍。
视觉语言模型概述
Hugging Face 提供了一份关于视觉语言模型（VLM）的综合指南，详细阐述了它们的架构、开源选项、评估基准，以及通过 TRL 库进行微调的全新实验性支持。
Hugging Face 与 Google Cloud Vertex AI 模型花园集成
Hugging Face 推出了 “Deploy on Google Cloud”，使用户能够通过 Hugging Face Hub 或 Vertex Model Garden 将数千个开源基础模型部署到 Vertex AI 或 Google Kubernetes Engine（GKE）。
CodeGemma 发布说明 / 新功能
Google 已发布 CodeGemma，这是一系列基于 Gemma 的开放获取代码专用大语言模型（LLM），在额外的 5000 亿代码、数学和英文数据令牌上进行训练。
评估语言模型的说服力
Anthropic 的研究显示，AI 的说服力随模型规模和能力的提升而增强，Claude 3 Opus 的说服力在统计上与人类写作者相当。
Hugging Face 公共政策项目概览及提交材料
Hugging Face 宣布了一项全面的公共政策项目，为美国、欧盟和英国的政策制定者提供详细的立场文件、证词和评论信，体现了其跨职能的负责任开放承诺以及塑造 AI 监管的努力。
Ollama Embedding Models Support
Ollama 现在支持嵌入模型，通过将文本转换为向量嵌入，从而实现创建本地检索增强生成（RAG）应用。
Klarna AI 助手集成与绩效结果
Klarna 部署了一个基于 OpenAI 的 AI 助手，处理了三分之二的客户服务聊天，完成相当于 700 名全职代理的工作，同时提升了解决时间和利润。
Hugging Face 与 Wiz 研究合作伙伴关系，致力于 AI 安全
Hugging Face 与 Wiz 合作，整合先进的漏洞管理和云安全姿态管理，以保护其平台及更广泛的 AI/ML 生态系统。
使用 Hugging Face 数据集查看器 API 和 DuckDB-NSQL-7B 的 Text2SQL
Hugging Face 演示了如何使用 DuckDB-NSQL-7B 模型和 Dataset Viewer API，将自然语言问题转换为 SQL 查询，从而分析超过 120,000 个开放数据集。
OpenAI 微调 API 改进及定制模型计划扩展
OpenAI 为其微调 API 引入了新的控制功能，并扩展了定制模型计划，涵盖了辅助微调和针对特定领域需求的全定制训练模型。
使用 🤗 Optimum Intel 在 Xeon 上加速 SetFit 推理
Hugging Face 演示了如何通过 🤗 Optimum Intel 库的后训练静态量化，在 Intel Xeon CPU 上实现 SetFit 模型最高 7.8 倍的推理吞吐量提升。
Qwen1.5-32B 发布说明 / 新功能
Qwen 已发布 Qwen1.5-32B 和 Qwen1.5-32B-Chat，这些模型旨在在保持高性能的同时，相较于 72B 版本降低内存和推理成本。
Hugging Face 与 Cloudflare Workers AI 集成
Hugging Face 将 Cloudflare Workers AI 集成，以为流行的开源模型提供无服务器 GPU 推理，使开发者能够以按请求付费的定价模式部署 AI 应用。
OpenAI 与 Harvey 合作开发定制案例法模型
OpenAI 与 Harvey 合作创建了一个定制训练的案例法模型，整合了 100 亿个美国案例法的标记，以提升推理能力并减少法律专业任务中的幻觉现象。
Anthropic Many-Shot Jailbreaking 研究
Anthropic 发现了一种“many-shot jailbreaking”漏洞，即在长上下文窗口中提供大量伪对话示例可以覆盖 LLM 的安全训练。
ChatGPT 访问更新：无需账户注册即可即时使用
OpenAI 已实现无需账户注册即可即时使用 ChatGPT，扩大了 AI 对全球受众的可访问性。
Oscar Health AI 实施：降低成本并提升护理
Oscar Health 使用 OpenAI 的 API 自动化临床文档和索赔处理，将文档时间缩短 40%，升级解决时间缩短 50%。
OpenAI Voice Engine：合成语音能力与安全框架
OpenAI 已预览 Voice Engine，这是一种能够仅凭 15 秒音频样本创建真实、富有情感的合成语音的模型，同时采取审慎的部署策略以降低滥用风险。
Qwen1.5-MoE-A2.7B 发布说明
Qwen 引入了 Qwen1.5-MoE-A2.7B，这是一款 Mixture-of-Experts 模型，能够在仅使用 27 亿激活参数的情况下匹配 7B 密集模型的性能。
OpenAI Zelma: 通过 GPT-4 让教育数据易于获取
Zelma 是一款基于 GPT-4 的研究助理，旨在通过自然语言查询，使美国 3‑8 年级的标准化考试数据对家长、教师和政策制定者可访问。
OpenAI Sora 来自创意专业人士的第一印象
OpenAI 分享了来自使用 Sora 进行创意原型、制作超现实视觉效果，并消除技术和预算限制的视觉艺术家和电影制片人的早期反馈。
Pollen-Vision：机器人零样本视觉模型的统一接口
Hugging Face 与 Pollen Robotics 团队发布了 pollen-vision，这是一款开源库，整合了零样本视觉模型，使机器人能够在三维空间中检测并定位未知物体。
Anthropic 第三方测试 AI 政策提案
Anthropic 提议为前沿 AI 系统建立第三方测试机制，通过多样化的审计员生态系统来验证安全、防止国家安全风险并避免监管俘获。
Hugging Face Transformers：开源机器学习入门指南
Hugging Face 提供了一份全面的入门指南，帮助使用 Transformers 库和 Hub 部署并运行开源机器学习模型，例如微软的 Phi-2。
嵌入量化：二进制与标量技术，实现更快、更便宜的检索
Hugging Face 宣布了二进制和 int8 嵌入量化，将内存削减 32 倍或 4 倍，并将检索速度提升至最高 45 倍，同时保持原始性能的 96%–99%。
JetBrains AI 助手与 OpenAI API 的集成
JetBrains 将 OpenAI 的 API 集成到其 AI 助手中，以自动化日常编码任务，结果 77% 的开发者报告生产力提升。
Hugging Face 与 Lighthouz AI 推出 Chatbot Guardrails Arena
Hugging Face 与 Lighthouz AI 已推出 Chatbot Guardrails Arena，这是一款社区驱动的压力测试平台，旨在评估 LLM 及其防护栏的数据隐私和安全性。
GaLore：在消费级硬件上推进大模型训练
GaLore 通过低秩梯度投影，将优化器状态的内存需求降低超过 82.5%，从而在消费级 GPU 上实现十亿参数模型的训练。
Cosmopedia：大规模合成数据用于LLM预训练
Hugging Face 推出 Cosmopedia，这是用于 LLM 预训练的最大公开合成数据集，包含 3000 万个文件和 2500 亿个 token，由 Mixtral-8x7B-Instruct-v0.1 生成。