✷ 归档 · 6,244 篇 dispatch
全部 dispatch
AgentLensHQ 归档的全部内容——提炼自整个 AI 生态。
Ryght 案例研究：使用 Hugging Face 构建生命科学生成式 AI 平台
Ryght 已推出 Ryght Preview，这是一款面向医疗保健和生命科学的企业级生成式 AI 平台，利用 Hugging Face 的专家支持、TGI 和 TEI，提供安全、灵活且高性能的 AI 副驾驶。
在 Hugging Face 端点上运行隐私保护推理
Hugging Face 与 Zama 已实现通过 Hugging Face 端点部署全同态加密（FHE）模型，使用户能够在加密数据上进行机器学习推理，而无需解密。
LiveCodeBench 排行榜：无污染的代码 LLM 评估
Hugging Face 推出了 LiveCodeBench 排行榜，这是一项由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发的新基准，用于评估 LLM 的代码生成和推理能力，并通过时间窗口问题集防止基准污染。
Gradio 重载模式加速 AI 应用开发
Gradio 的重载模式使开发者能够在不重启服务器的情况下即时将源代码更改应用到 AI 应用中，显著降低开发延迟。
Idefics2 8B 视觉语言模型发布 – 架构、数据与性能
Hugging Face 发布了 Idefics2，这是一款 8B 开源视觉语言模型，在 VQA 和 OCR 基准测试中优于其他 8B 模型，并可通过 🤗 Transformers 进行微调。
OpenAI 日本发布与 GPT-4 日语定制模型
OpenAI 在东京开设了首个亚洲办事处，并发布了针对日语优化的 GPT-4 定制模型，其运行速度比 GPT-4 Turbo 快至 3 倍。
视觉语言模型概述
Hugging Face 提供了一份关于视觉语言模型（VLM）的综合指南，详细阐述了它们的架构、开源选项、评估基准，以及通过 TRL 库进行微调的全新实验性支持。
Hugging Face 与 Google Cloud Vertex AI 模型花园集成
Hugging Face 推出了 “Deploy on Google Cloud”，使用户能够通过 Hugging Face Hub 或 Vertex Model Garden 将数千个开源基础模型部署到 Vertex AI 或 Google Kubernetes Engine（GKE）。
CodeGemma 发布说明 / 新功能
Google 已发布 CodeGemma，这是一系列基于 Gemma 的开放获取代码专用大语言模型（LLM），在额外的 5000 亿代码、数学和英文数据令牌上进行训练。
评估语言模型的说服力
Anthropic 的研究显示，AI 的说服力随模型规模和能力的提升而增强，Claude 3 Opus 的说服力在统计上与人类写作者相当。
Hugging Face 公共政策项目概览及提交材料
Hugging Face 宣布了一项全面的公共政策项目，为美国、欧盟和英国的政策制定者提供详细的立场文件、证词和评论信，体现了其跨职能的负责任开放承诺以及塑造 AI 监管的努力。
Ollama Embedding Models Support
Ollama 现在支持嵌入模型，通过将文本转换为向量嵌入，从而实现创建本地检索增强生成（RAG）应用。
Klarna AI 助手集成与绩效结果
Klarna 部署了一个基于 OpenAI 的 AI 助手，处理了三分之二的客户服务聊天，完成相当于 700 名全职代理的工作，同时提升了解决时间和利润。
Hugging Face 与 Wiz 研究合作伙伴关系，致力于 AI 安全
Hugging Face 与 Wiz 合作，整合先进的漏洞管理和云安全姿态管理，以保护其平台及更广泛的 AI/ML 生态系统。
使用 Hugging Face 数据集查看器 API 和 DuckDB-NSQL-7B 的 Text2SQL
Hugging Face 演示了如何使用 DuckDB-NSQL-7B 模型和 Dataset Viewer API，将自然语言问题转换为 SQL 查询，从而分析超过 120,000 个开放数据集。
OpenAI 微调 API 改进及定制模型计划扩展
OpenAI 为其微调 API 引入了新的控制功能，并扩展了定制模型计划，涵盖了辅助微调和针对特定领域需求的全定制训练模型。
使用 🤗 Optimum Intel 在 Xeon 上加速 SetFit 推理
Hugging Face 演示了如何通过 🤗 Optimum Intel 库的后训练静态量化，在 Intel Xeon CPU 上实现 SetFit 模型最高 7.8 倍的推理吞吐量提升。
Qwen1.5-32B 发布说明 / 新功能
Qwen 已发布 Qwen1.5-32B 和 Qwen1.5-32B-Chat，这些模型旨在在保持高性能的同时，相较于 72B 版本降低内存和推理成本。
Hugging Face 与 Cloudflare Workers AI 集成
Hugging Face 将 Cloudflare Workers AI 集成，以为流行的开源模型提供无服务器 GPU 推理，使开发者能够以按请求付费的定价模式部署 AI 应用。
OpenAI 与 Harvey 合作开发定制案例法模型
OpenAI 与 Harvey 合作创建了一个定制训练的案例法模型，整合了 100 亿个美国案例法的标记，以提升推理能力并减少法律专业任务中的幻觉现象。
Anthropic Many-Shot Jailbreaking 研究
Anthropic 发现了一种“many-shot jailbreaking”漏洞，即在长上下文窗口中提供大量伪对话示例可以覆盖 LLM 的安全训练。
ChatGPT 访问更新：无需账户注册即可即时使用
OpenAI 已实现无需账户注册即可即时使用 ChatGPT，扩大了 AI 对全球受众的可访问性。
Oscar Health AI 实施：降低成本并提升护理
Oscar Health 使用 OpenAI 的 API 自动化临床文档和索赔处理，将文档时间缩短 40%，升级解决时间缩短 50%。
OpenAI Voice Engine：合成语音能力与安全框架
OpenAI 已预览 Voice Engine，这是一种能够仅凭 15 秒音频样本创建真实、富有情感的合成语音的模型，同时采取审慎的部署策略以降低滥用风险。
Qwen1.5-MoE-A2.7B 发布说明
Qwen 引入了 Qwen1.5-MoE-A2.7B，这是一款 Mixture-of-Experts 模型，能够在仅使用 27 亿激活参数的情况下匹配 7B 密集模型的性能。
OpenAI Zelma: 通过 GPT-4 让教育数据易于获取
Zelma 是一款基于 GPT-4 的研究助理，旨在通过自然语言查询，使美国 3‑8 年级的标准化考试数据对家长、教师和政策制定者可访问。
OpenAI Sora 来自创意专业人士的第一印象
OpenAI 分享了来自使用 Sora 进行创意原型、制作超现实视觉效果，并消除技术和预算限制的视觉艺术家和电影制片人的早期反馈。
Pollen-Vision：机器人零样本视觉模型的统一接口
Hugging Face 与 Pollen Robotics 团队发布了 pollen-vision，这是一款开源库，整合了零样本视觉模型，使机器人能够在三维空间中检测并定位未知物体。
Anthropic 第三方测试 AI 政策提案
Anthropic 提议为前沿 AI 系统建立第三方测试机制，通过多样化的审计员生态系统来验证安全、防止国家安全风险并避免监管俘获。
Hugging Face Transformers：开源机器学习入门指南
Hugging Face 提供了一份全面的入门指南，帮助使用 Transformers 库和 Hub 部署并运行开源机器学习模型，例如微软的 Phi-2。
嵌入量化：二进制与标量技术，实现更快、更便宜的检索
Hugging Face 宣布了二进制和 int8 嵌入量化，将内存削减 32 倍或 4 倍，并将检索速度提升至最高 45 倍，同时保持原始性能的 96%–99%。
JetBrains AI 助手与 OpenAI API 的集成
JetBrains 将 OpenAI 的 API 集成到其 AI 助手中，以自动化日常编码任务，结果 77% 的开发者报告生产力提升。
Hugging Face 与 Lighthouz AI 推出 Chatbot Guardrails Arena
Hugging Face 与 Lighthouz AI 已推出 Chatbot Guardrails Arena，这是一款社区驱动的压力测试平台，旨在评估 LLM 及其防护栏的数据隐私和安全性。
GaLore：在消费级硬件上推进大模型训练
GaLore 通过低秩梯度投影，将优化器状态的内存需求降低超过 82.5%，从而在消费级 GPU 上实现十亿参数模型的训练。
Cosmopedia：大规模合成数据用于LLM预训练
Hugging Face 推出 Cosmopedia，这是用于 LLM 预训练的最大公开合成数据集，包含 3000 万个文件和 2500 亿个 token，由 Mixtral-8x7B-Instruct-v0.1 生成。
Phi-2 在 Intel Meteor Lake 上：本地 LLM 推理
Hugging Face 演示了如何使用 OpenVINO 和 Optimum Intel 通过 4 位量化在 Intel Meteor Lake（Core Ultra）处理器上本地运行 Microsoft Phi-2 模型。
Accenture、AWS 和 Anthropic 合作推動企業級 AI 規模化
Anthropic、AWS 和 Accenture 已合作，協助組織（特別是在受監管領域）將生成式 AI 從概念推進至生產環境，重點關注安全性、可靠性與數據隱私。
Claude 3 模型在 Vertex AI 上正式可用
Anthropic 已在 Google Cloud 的 Vertex AI 平台上正式推出了 Claude 3 Haiku 和 Claude 3 Sonnet，允许企业利用企业级安全性来扩展生成式 AI 解决方案。
Holiday Extras ChatGPT 企业版实施
Holiday Extras 在整个组织中部署了 ChatGPT 企业版，每周节省超过 500 小时，预计每年可节省约 50 万美元。
OpenAI 与 Salesforce 的企业信任与安全集成
OpenAI 为 Salesforce Einstein AI 平台提供基础生成式 AI 模型，实现跨 Sales、Service 和 Commerce 云的安全、企业级 AI 能力。
Superhuman AI 与 OpenAI API 的集成
Superhuman 已集成 OpenAI 的 API，推出了一套 AI 驱动的邮件功能，使用户的收件箱处理速度提升两倍。
Quanto：Optimum 的 PyTorch 量化后端
Hugging Face 推出 Quanto，这是一款多功能且设备无关的 PyTorch 量化后端，适用于 Optimum，旨在简化跨任何模态的低精度模型部署。
Hugging Face 在 DGX 云上训练
Hugging Face 推出了 Train on DGX Cloud，这是一项面向 Enterprise Hub 组织的无代码服务，可使用 NVIDIA H100 和 L40S GPU 对开源模型进行微调。
xAI Grok-1 开源发布
xAI 已在 Apache 2.0 许可下发布了 Grok-1 的基础模型权重和网络架构，这是一个拥有 3140 亿参数的混合专家 (MoE) 模型。
WebSight 数据集与 Sightseer 模型
Hugging Face 推出了 WebSight，这是一套包含 200 万截图到 HTML 配对的合成数据集，以及 Sightseer，这是一种能够将网页截图转换为功能性 HTML 代码的视觉语言模型。
使用 Optimum Intel 与 fastRAG 的 CPU 优化嵌入
Hugging Face 和 Intel 推出了一种在 Xeon CPU 上使用 Optimum Intel 和 fastRAG 加速嵌入模型的方法，通过 int8 量化实现最高 4.5 倍的延迟降低和 4 倍的吞吐量提升。
Ollama AMD 显卡支持预览版
Ollama 已在 Windows 和 Linux 上推出对 AMD 显卡的预览支持，为广泛的 Radeon、Radeon PRO 和 Instinct 系列显卡提供所有 Ollama 功能的硬件加速。
OpenAI 与《世界报》和 Prisa Media 的全球新闻合作伙伴关系
OpenAI 已与《世界报》和 Prisa Media 合作，将其新闻内容整合到 ChatGPT 中，为用户提供带有出处的摘要和指向原始文章的直接链接。
Healthify 与 OpenAI 合作进行 AI 健康教练
Healthify 已集成 OpenAI 的 GPT-4 Vision、GPT-4 Turbo 和 Embeddings 模型，以规模化个性化营养和健身教练，导致食物追踪参与度提升了 50%。
Claude 3 Haiku 发布说明
Anthropic 已发布 Claude 3 Haiku，这是一款高速且经济实惠的模型，专为企业应用设计，具备业界领先的视觉能力以及高令牌处理速度。