✷ 归档 · 6,244 篇 dispatch
全部 dispatch
AgentLensHQ 归档的全部内容——提炼自整个 AI 生态。
Mistral Batch API 发布
Mistral AI 推出了 Batch API，允许用户以比同步 API 调用低 50% 的成本来处理海量请求。
Mistral Moderation API 发布
Mistral AI 发布了新的内容审核 API，这是一款基于 LLM 的分类器，可将文本分为多种语言的九个安全类别，为 AI 部署提供系统级护栏。
Llama 3.2 Vision 已可在 Ollama 中使用
Ollama 已发布对 11B 和 90B 参数规模 Llama 3.2 Vision 的支持，实现了包括 OCR 和图像分析在内的多模态能力的本地执行。
Hugging Face PyCharm 集成
Hugging Face 已将其 Hub 直接集成到 PyCharm Professional 中，允许开发人员在不离开 IDE 的情况下发现、插入和管理机器学习模型。
Argilla 2.4 发布说明 / 新功能
Argilla 2.4 引入了一个无需编码的 UI，用于导入 Hugging Face Hub 数据集，以通过人工反馈构建微调和评估数据集。
xAI API 公测发布
xAI 已推出其 API 的公测版本，为开发者提供对 Grok 系列基础模型的程序化访问权限，并从 grok-beta 模型开始。
Claude 3 Haiku 在 Amazon Bedrock 中的微调
Anthropic 已在 Amazon Bedrock 中正式推出 Claude 3 Haiku 的微调功能，允许用户针对专业任务定制模型，以实现更高的准确性和更低的成本。
介绍 ChatGPT 搜索
OpenAI 已在 ChatGPT 中集成了全新网页搜索功能，使用户能够获得快速、及时的答案，并直接链接到相关的网络来源。
Promega ChatGPT 采用案例研究
Promega 已在整个组织中整合了 ChatGPT，部署了超过 1,400 个自定义 GPT，以加速制造、销售和营销工作流程。
Anthropic: 支持针对性 AI 监管的理由
Anthropic 主张在未来 18 个月内对前沿 AI 模型实施紧急且针对性强的政府监管，以减轻灾难性的网络安全和 CBRN 风险，同时保留创新能力。
OpenAI 营销 AI 解决方案
OpenAI 为营销团队提供 AI 工具，以扩展其超越简单内容开发的能力。
OpenAI SimpleQA 基准发布
OpenAI 发布了 SimpleQA，这是一套包含 4,326 条简短求事实问题的开源基准，用于评估前沿语言模型的事实准确性和校准能力。
Decagon 与 OpenAI 的客户支持自动化
Decagon 采用包含 GPT-3.5、GPT-4 和 o1-mini 的多模型策略，实现对企业客户高达 91% 的全球支持自动化。
通用辅助生成：使用任意助手模型实现更快解码
Hugging Face 与 Intel Labs 推出了通用辅助生成（UAG），这是一种通过允许任何小模型充当助手（不受其分词器限制）来将大语言模型推理加速 1.5 倍至 2.0 倍的方法。
Claude 3.5 Sonnet 与 GitHub Copilot 集成
Anthropic 的 Claude 3.5 Sonnet 现已在 GitHub Copilot 上提供公共预览版，为开发者提供高性能的编程模型，其在 SWE-bench Verified 上表现优于其他公开可用的模型。
Digital Green Farmer.chat：通过 LLM‑as‑a‑Judge 加强 RAG
Digital Green 为 Farmer.chat（基于 RAG 的农业聊天机器人）实现了 LLM‑as‑a‑Judge 评估框架，以客观衡量 RAG 准确性并在 34 万条查询中优化模型选择。
Anthropic 评估特征转向：缓解社会偏见的一个案例研究
Anthropic 研究人员发现，虽然特征转向可以针对 Claude 3 Sonnet 中的特定社会偏见和政治立场，但它经常会产生不可预测的脱靶效应，并在特定的转向因子范围之外降低模型能力。
Aya Expanse 发布：推动多语言大语言模型性能提升
Hugging Face 和 Cohere For AI 已发布 Aya Expanse，这是一系列 8B 和 32B 开源权重模型，创下了多语言性能的新最先进基准。
简化、稳定并扩展连续时间一致性模型
OpenAI 推出 sCM，这是一种简化的连续时间一致性模型，仅需两步采样即可实现与扩散模型相当的样本质量，生成速度提升约 50 倍。
HUGS 发布：零配置、硬件优化的开源 LLM 推理
Hugging Face 推出 HUGS，这是一项零配置、硬件优化的开源 LLM 推理服务，支持 NVIDIA、AMD，未来还将支持 AWS Inferentia 和 Google TPU，使企业能够在内部托管模型，并提供兼容 OpenAI 的 API。
CinePile 2.0 发布：对抗性细化提升视频问答数据集质量
CinePile 2.0 引入了对抗性细化流水线，将薄弱的 QA 对升级为依赖视觉的问题，发布了改进后的数据集和完整代码，并展示了商业和开源视频‑LLM 的显著性能提升。
SynthID 文本集成于 Transformers v4.46.0
Google DeepMind 与 Hugging Face 已将 SynthID Text 集成到 Transformers v4.46.0 中，提供了一种对 AI 生成文本添加不可感知水印并通过训练分类器进行检测的方法。
OpenAI 与微软与 Lenfest Institute 合作的 AI 协作与奖学金项目
OpenAI 与微软已与 Lenfest Institute for Journalism 合作，提供 1000 万美元的资金和信用额度，帮助本地新闻编辑部实施 AI，以实现业务可持续性和创新。
在 Hugging Face 推理端点上部署语音到语音
Hugging Face 提供了一份指南，说明如何使用自定义 Docker 镜像在 Inference Endpoints 上部署其 Speech-to-Speech（S2S）流水线，以应对高计算需求并降低延迟。
Outlines-core 0.1.0 发布说明 / 新功能
Hugging Face 和 dottxt 已发布 outlines-core 0.1.0，这是 Outlines 核心算法的 Rust 移植版，用于结构化生成，提升了索引编译速度和可移植性。
Stable Diffusion 3.5 Large 与 Diffusers 的集成
Hugging Face 已将 Stable Diffusion 3.5 Large（一个 8B 参数模型，提供标准版和时间步蒸馏版）集成到 Diffusers 库中。
Hugging Face 与 Protect AI 合作，为模型安全添加 Guardian 扫描器
Hugging Face 与 Protect AI 合作，将 Guardian 扫描器嵌入 Hub，自动检测危险的模型序列化漏洞，提升整个机器学习社区的安全性。
Transformers.js v3 发行版添加了 WebGPU 加速、扩展的模型支持以及服务器端 JavaScript 兼容性
Transformers.js v3 添加了 WebGPU 加速、新的量化格式、支持 120 种模型架构，并兼容 Node.js/Deno/Bun，使得在浏览器和 JavaScript 运行时实现快速的设备端推理成为可能。
Anthropic Claude 3.5 Sonnet and Claude 3.5 Haiku 发布
Anthropic 发布了升级版的 Claude 3.5 Sonnet 和全新的 Claude 3.5 Haiku，同时还为一项突破性的 "computer use" 能力推出了公开测试版，该能力允许模型与标准计算机界面进行交互。
Keras 中的 Llama 3.2
通过 keras-hub，Keras 完全支持 Llama 3.2，用户可以加载 Hugging Face 检查点，并在 JAX、PyTorch 或 TensorFlow 后端上运行模型。
Ollama 上的 IBM Granite 3.0 模型
IBM Granite 3.0 模型（包括稠密模型和混合专家 MoE 变体）现已在 Ollama 上通过 Apache 2.0 许可提供。
Anthropic 前沿模型破坏行为评估
Anthropic 引入了一套全新的破坏行为评估框架，用于检测 AI 模型是否能够误导用户、插入隐藏漏洞、隐藏能力或破坏监督系统。
OpenAI o1 推理模型：应对复杂问题求解
OpenAI 推出了 o1 推理模型，旨在解决编码、战略和研究领域的复杂问题。
Mistral AI 发布 Ministral 3B 和 8B 边缘模型
Mistral AI 推出了 Ministral 3B 和 8B，这两款最先进的边缘模型专为设备端计算、低延迟智能体工作流和隐私优先的本地推理而设计。
Hugging Face Transformers 梯度累积修复
Hugging Face 已更新 Transformers Trainer，通过纠正跨批次的损失平均方式，确保梯度累积在数学上等同于完整批次训练。
Anthropic 推出基于特征的分类器，采用字典学习技术
Anthropic 的可解释性团队宣布了使用字典学习特征作为分类器的初步实验，为微调后的语言模型提供了一种快速且可解释的替代方案。
OpenAI 在 ChatGPT 中评估公平性的研究摘要
OpenAI 的研究发现，基于姓名的有害刻板印象出现在不到 0.1% 的 ChatGPT 回复中，且整体答案质量在性别和种族姓名提示下保持一致。
Anthropic 负责任缩放政策更新
Anthropic 更新了其负责任缩放政策 (RSP)，引入了一个更灵活的风险治理框架，并设定了特定的性能阈值和按比例的 AI 安全等级 (ASL) 标准。
OpenAI MLE-bench：评估机器学习工程中的机器学习代理
OpenAI 推出 MLE-bench，这是一项使用 75 场 Kaggle 竞赛来衡量 AI 代理机器学习工程能力的基准，其中 o1-preview 在 16.9% 的任务中达到了铜牌水平。
Gradio 5 安全审查
Hugging Face 与 Trail of Bits 合作，对 Gradio 5 进行全面安全审计，修复了所有已识别的漏洞，确保机器学习应用默认安全。
AMD EPYC Turin CPU 实现比 Genoa 高出 2 倍的 LLM 推理吞吐量
AMD 第五代 EPYC Turin CPU 的 LLM 推理吞吐量约为 Genoa 的两倍，为 Hugging Face 工作负载实现更低的延迟和更高的吞吐量。
使用 Hugging Face 和 Dask 扩展 AI 数据处理规模
Hugging Face 和 Dask 通过分布式计算和多 GPU 并行推理，实现了 AI 数据处理从小规模本地样本到数亿行的扩展。
Gradio 5 发布说明
Hugging Face 已发布 Gradio 5，这是一款面向生产环境的框架，可使用 Python 构建高性能、可扩展且安全的机器学习 Web 应用程序。
OpenAI 与 Hearst 内容合作伙伴关系
OpenAI 与 Hearst 合作，将来自 20 多个杂志品牌和 40 多家报纸的内容整合到其 AI 产品（包括 ChatGPT）中，为用户提供更可靠且有引用的新闻报道。
Hugging Face Transformers 4.45.0 动态投机解码
Hugging Face 与 Intel Labs 在 Transformers 4.45.0 中引入了动态投机解码，通过根据模型置信度动态调整草稿 token 数量，实现了最高 **2.7 倍** 的文本生成加速。
Anthropic 美国大选准备工作
Anthropic 已实施了一套多层级的安全框架，包括使用政策更新、红队测试以及重定向至权威投票来源，以减轻 2024 年美国大选期间 AI 被滥用的风险。
在 Hugging Face Hub 上改进 Parquet 去重
Hugging Face 正在优化其存储架构以提升 Parquet 文件去重效率，提出基于内容定义的行组，以在数据集更新时降低存储开销。
Open FinLLM Leaderboard 发布 – 金融语言模型的全面零样本基准
Hugging Face 推出了 Open FinLLM Leaderboard，这是一项覆盖七大类、共 40 项金融专用任务的零样本基准，用于评估大型语言模型在真实金融场景中的准备程度。
OpenAI Canvas 测试版发布：用于 ChatGPT 的协作写作和编码界面
OpenAI 推出了 Canvas，这是一款测试版界面，允许 ChatGPT 在写作和编码项目中进行协作，支持内联编辑、版本控制和专用快捷键，最初面向 Plus 和 Team 用户推出。
OpenAI 建立 40 亿美元信用额度以提升财务灵活性
OpenAI 与全球银行联盟建立了 40 亿美元循环信用额度，以提升流动性并支持 AI 研究和基础设施的扩展。