✷ 归档 · 11 个实验室 · 3,430 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
使用 Hugging Face 数据集查看器 API 和 DuckDB-NSQL-7B 的 Text2SQL
Hugging Face 演示了如何使用 DuckDB-NSQL-7B 模型和 Dataset Viewer API，将自然语言问题转换为 SQL 查询，从而分析超过 120,000 个开放数据集。
OpenAI 微调 API 改进及定制模型计划扩展
OpenAI 为其微调 API 引入了新的控制功能，并扩展了定制模型计划，涵盖了辅助微调和针对特定领域需求的全定制训练模型。
使用 🤗 Optimum Intel 在 Xeon 上加速 SetFit 推理
Hugging Face 演示了如何通过 🤗 Optimum Intel 库的后训练静态量化，在 Intel Xeon CPU 上实现 SetFit 模型最高 7.8 倍的推理吞吐量提升。
Qwen1.5-32B 发布说明 / 新功能
Qwen 已发布 Qwen1.5-32B 和 Qwen1.5-32B-Chat，这些模型旨在在保持高性能的同时，相较于 72B 版本降低内存和推理成本。
Hugging Face 与 Cloudflare Workers AI 集成
Hugging Face 将 Cloudflare Workers AI 集成，以为流行的开源模型提供无服务器 GPU 推理，使开发者能够以按请求付费的定价模式部署 AI 应用。
OpenAI 与 Harvey 合作开发定制案例法模型
OpenAI 与 Harvey 合作创建了一个定制训练的案例法模型，整合了 100 亿个美国案例法的标记，以提升推理能力并减少法律专业任务中的幻觉现象。
Anthropic Many-Shot Jailbreaking 研究
Anthropic 发现了一种“many-shot jailbreaking”漏洞，即在长上下文窗口中提供大量伪对话示例可以覆盖 LLM 的安全训练。
ChatGPT 访问更新：无需账户注册即可即时使用
OpenAI 已实现无需账户注册即可即时使用 ChatGPT，扩大了 AI 对全球受众的可访问性。
Oscar Health AI 实施：降低成本并提升护理
Oscar Health 使用 OpenAI 的 API 自动化临床文档和索赔处理，将文档时间缩短 40%，升级解决时间缩短 50%。
OpenAI Voice Engine：合成语音能力与安全框架
OpenAI 已预览 Voice Engine，这是一种能够仅凭 15 秒音频样本创建真实、富有情感的合成语音的模型，同时采取审慎的部署策略以降低滥用风险。
Qwen1.5-MoE-A2.7B 发布说明
Qwen 引入了 Qwen1.5-MoE-A2.7B，这是一款 Mixture-of-Experts 模型，能够在仅使用 27 亿激活参数的情况下匹配 7B 密集模型的性能。
OpenAI Zelma: 通过 GPT-4 让教育数据易于获取
Zelma 是一款基于 GPT-4 的研究助理，旨在通过自然语言查询，使美国 3‑8 年级的标准化考试数据对家长、教师和政策制定者可访问。
OpenAI Sora 来自创意专业人士的第一印象
OpenAI 分享了来自使用 Sora 进行创意原型、制作超现实视觉效果，并消除技术和预算限制的视觉艺术家和电影制片人的早期反馈。
Pollen-Vision：机器人零样本视觉模型的统一接口
Hugging Face 与 Pollen Robotics 团队发布了 pollen-vision，这是一款开源库，整合了零样本视觉模型，使机器人能够在三维空间中检测并定位未知物体。
Anthropic 第三方测试 AI 政策提案
Anthropic 提议为前沿 AI 系统建立第三方测试机制，通过多样化的审计员生态系统来验证安全、防止国家安全风险并避免监管俘获。
Hugging Face Transformers：开源机器学习入门指南
Hugging Face 提供了一份全面的入门指南，帮助使用 Transformers 库和 Hub 部署并运行开源机器学习模型，例如微软的 Phi-2。
嵌入量化：二进制与标量技术，实现更快、更便宜的检索
Hugging Face 宣布了二进制和 int8 嵌入量化，将内存削减 32 倍或 4 倍，并将检索速度提升至最高 45 倍，同时保持原始性能的 96%–99%。
JetBrains AI 助手与 OpenAI API 的集成
JetBrains 将 OpenAI 的 API 集成到其 AI 助手中，以自动化日常编码任务，结果 77% 的开发者报告生产力提升。
Hugging Face 与 Lighthouz AI 推出 Chatbot Guardrails Arena
Hugging Face 与 Lighthouz AI 已推出 Chatbot Guardrails Arena，这是一款社区驱动的压力测试平台，旨在评估 LLM 及其防护栏的数据隐私和安全性。
GaLore：在消费级硬件上推进大模型训练
GaLore 通过低秩梯度投影，将优化器状态的内存需求降低超过 82.5%，从而在消费级 GPU 上实现十亿参数模型的训练。
Cosmopedia：大规模合成数据用于LLM预训练
Hugging Face 推出 Cosmopedia，这是用于 LLM 预训练的最大公开合成数据集，包含 3000 万个文件和 2500 亿个 token，由 Mixtral-8x7B-Instruct-v0.1 生成。
Phi-2 在 Intel Meteor Lake 上：本地 LLM 推理
Hugging Face 演示了如何使用 OpenVINO 和 Optimum Intel 通过 4 位量化在 Intel Meteor Lake（Core Ultra）处理器上本地运行 Microsoft Phi-2 模型。
Accenture、AWS 和 Anthropic 合作推動企業級 AI 規模化
Anthropic、AWS 和 Accenture 已合作，協助組織（特別是在受監管領域）將生成式 AI 從概念推進至生產環境，重點關注安全性、可靠性與數據隱私。
Claude 3 模型在 Vertex AI 上正式可用
Anthropic 已在 Google Cloud 的 Vertex AI 平台上正式推出了 Claude 3 Haiku 和 Claude 3 Sonnet，允许企业利用企业级安全性来扩展生成式 AI 解决方案。
Holiday Extras ChatGPT 企业版实施
Holiday Extras 在整个组织中部署了 ChatGPT 企业版，每周节省超过 500 小时，预计每年可节省约 50 万美元。
OpenAI 与 Salesforce 的企业信任与安全集成
OpenAI 为 Salesforce Einstein AI 平台提供基础生成式 AI 模型，实现跨 Sales、Service 和 Commerce 云的安全、企业级 AI 能力。
Superhuman AI 与 OpenAI API 的集成
Superhuman 已集成 OpenAI 的 API，推出了一套 AI 驱动的邮件功能，使用户的收件箱处理速度提升两倍。
Quanto：Optimum 的 PyTorch 量化后端
Hugging Face 推出 Quanto，这是一款多功能且设备无关的 PyTorch 量化后端，适用于 Optimum，旨在简化跨任何模态的低精度模型部署。
Hugging Face 在 DGX 云上训练
Hugging Face 推出了 Train on DGX Cloud，这是一项面向 Enterprise Hub 组织的无代码服务，可使用 NVIDIA H100 和 L40S GPU 对开源模型进行微调。
xAI Grok-1 开源发布
xAI 已在 Apache 2.0 许可下发布了 Grok-1 的基础模型权重和网络架构，这是一个拥有 3140 亿参数的混合专家 (MoE) 模型。
WebSight 数据集与 Sightseer 模型
Hugging Face 推出了 WebSight，这是一套包含 200 万截图到 HTML 配对的合成数据集，以及 Sightseer，这是一种能够将网页截图转换为功能性 HTML 代码的视觉语言模型。
使用 Optimum Intel 与 fastRAG 的 CPU 优化嵌入
Hugging Face 和 Intel 推出了一种在 Xeon CPU 上使用 Optimum Intel 和 fastRAG 加速嵌入模型的方法，通过 int8 量化实现最高 4.5 倍的延迟降低和 4 倍的吞吐量提升。
Ollama AMD 显卡支持预览版
Ollama 已在 Windows 和 Linux 上推出对 AMD 显卡的预览支持，为广泛的 Radeon、Radeon PRO 和 Instinct 系列显卡提供所有 Ollama 功能的硬件加速。
OpenAI 与《世界报》和 Prisa Media 的全球新闻合作伙伴关系
OpenAI 已与《世界报》和 Prisa Media 合作，将其新闻内容整合到 ChatGPT 中，为用户提供带有出处的摘要和指向原始文章的直接链接。
Healthify 与 OpenAI 合作进行 AI 健康教练
Healthify 已集成 OpenAI 的 GPT-4 Vision、GPT-4 Turbo 和 Embeddings 模型，以规模化个性化营养和健身教练，导致食物追踪参与度提升了 50%。
Claude 3 Haiku 发布说明
Anthropic 已发布 Claude 3 Haiku，这是一款高速且经济实惠的模型，专为企业应用设计，具备业界领先的视觉能力以及高令牌处理速度。
OpenAI治理审查与领导确认
OpenAI已完成WilmerHale的独立审查，确认对Sam Altman和Greg Brockman的领导全力信任，并实施了重大治理改革。
OpenAI董事会扩张
OpenAI任命了Sue Desmond-Hellmann博士、Nicole Seligman和Fidji Simo加入董事会，同时CEO Sam Altman重新加入董事会。
Anthropic "Reflections on Qualitative Research" – 为什么可解释性需要定性视角
Anthropic 的 “Reflections on Qualitative Research” 认为 AI 模型的可解释性工作应优先考虑定性方法，并为判断此类研究提供了启发式方法。
Lifespan 医疗系统使用 GPT-4 提升患者健康素养
Lifespan 是罗德岛最大的医疗系统，已部署 GPT-4 将复杂的外科同意书从大学阅读水平简化至中学阅读水平，以提升患者的理解和福祉。
Match Group 采用 ChatGPT Enterprise 提升生产力和产品开发
Match Group 已向数千名员工部署了 ChatGPT Enterprise，以提升跨职能协作、工程效率和产品可用性测试，同时利用 OpenAI 的 API 为面向客户的功能提供支持。
Paradigm 将 GPT-4 集成以加速临床试验患者匹配
Paradigm 使用 OpenAI 的 GPT-4 API 自动评估医疗记录以确定临床试验资格，将准确率提升 10%，并实现每分钟筛选数百名患者。
OpenAI 与 Elon Musk：合作与使命的澄清
OpenAI 发布了一份声明，澄清了其与 Elon Musk 的历史关系、为资助 AGI 开发而进行营利转型的必要性，以及其对广泛受益的承诺。
ConTextual：文本丰富场景中的多模态推理基准
Hugging Face 与 UCLA 的研究人员推出了 ConTextual，这是一套数据集和排行榜，旨在评估大型多模态模型（LMM）在复杂、文本丰富的图像中如何对文本和视觉线索进行联合推理。
Hugging Face 与 Argilla 实现社区协同数据集构建
Hugging Face 与 Argilla 引入了一套简化的工作流，利用 Hugging Face Spaces 和 Argilla 让社区能够协同构建高质量的开源数据集。
Claude 3 模型系列发布
Anthropic 发布了 Claude 3 模型系列，包括 Opus、Sonnet 和 Haiku，这些模型引入了先进的视觉能力、更高的准确性，并在认知任务中树立了新的行业基准。
Intel Gaudi 2 AI 加速器上的文本生成管道
Hugging Face 推出了一款针对 Intel Gaudi 2 AI 加速器的定制文本生成管道，通过 Optimum Habana 实现了 Llama 2 模型（7b、13b 和 70b）的简化部署。
Anthropic 提升业务性能的提示工程
Anthropic 概述了关键的提示工程技术——包括分步推理、few-shot prompting 和 prompt chaining——以提高 Claude 在业务应用中的准确性、一致性、和成本效率。
StarCoder2 与 The Stack v2 发布
BigCode 已发布 StarCoder2，这是一系列透明训练的开源代码大语言模型，参数规模分别为 3B、7B 和 15B，基于全新的大规模 Stack v2 数据集。
Hugging Face TTS Arena：文本转语音模型基准测试
Hugging Face 推出了 TTS Arena，这是一款众包的并排比较工具和排行榜，使用 Elo 评分系统客观衡量文本转语音模型的质量。