✷ 归档 · 11 个实验室 · 3,425 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
HUGS 发布：零配置、硬件优化的开源 LLM 推理
Hugging Face 推出 HUGS，这是一项零配置、硬件优化的开源 LLM 推理服务，支持 NVIDIA、AMD，未来还将支持 AWS Inferentia 和 Google TPU，使企业能够在内部托管模型，并提供兼容 OpenAI 的 API。
CinePile 2.0 发布：对抗性细化提升视频问答数据集质量
CinePile 2.0 引入了对抗性细化流水线，将薄弱的 QA 对升级为依赖视觉的问题，发布了改进后的数据集和完整代码，并展示了商业和开源视频‑LLM 的显著性能提升。
SynthID 文本集成于 Transformers v4.46.0
Google DeepMind 与 Hugging Face 已将 SynthID Text 集成到 Transformers v4.46.0 中，提供了一种对 AI 生成文本添加不可感知水印并通过训练分类器进行检测的方法。
OpenAI 与微软与 Lenfest Institute 合作的 AI 协作与奖学金项目
OpenAI 与微软已与 Lenfest Institute for Journalism 合作，提供 1000 万美元的资金和信用额度，帮助本地新闻编辑部实施 AI，以实现业务可持续性和创新。
在 Hugging Face 推理端点上部署语音到语音
Hugging Face 提供了一份指南，说明如何使用自定义 Docker 镜像在 Inference Endpoints 上部署其 Speech-to-Speech（S2S）流水线，以应对高计算需求并降低延迟。
Outlines-core 0.1.0 发布说明 / 新功能
Hugging Face 和 dottxt 已发布 outlines-core 0.1.0，这是 Outlines 核心算法的 Rust 移植版，用于结构化生成，提升了索引编译速度和可移植性。
Stable Diffusion 3.5 Large 与 Diffusers 的集成
Hugging Face 已将 Stable Diffusion 3.5 Large（一个 8B 参数模型，提供标准版和时间步蒸馏版）集成到 Diffusers 库中。
Hugging Face 与 Protect AI 合作，为模型安全添加 Guardian 扫描器
Hugging Face 与 Protect AI 合作，将 Guardian 扫描器嵌入 Hub，自动检测危险的模型序列化漏洞，提升整个机器学习社区的安全性。
Transformers.js v3 发行版添加了 WebGPU 加速、扩展的模型支持以及服务器端 JavaScript 兼容性
Transformers.js v3 添加了 WebGPU 加速、新的量化格式、支持 120 种模型架构，并兼容 Node.js/Deno/Bun，使得在浏览器和 JavaScript 运行时实现快速的设备端推理成为可能。
Anthropic Claude 3.5 Sonnet and Claude 3.5 Haiku 发布
Anthropic 发布了升级版的 Claude 3.5 Sonnet 和全新的 Claude 3.5 Haiku，同时还为一项突破性的 "computer use" 能力推出了公开测试版，该能力允许模型与标准计算机界面进行交互。
Keras 中的 Llama 3.2
通过 keras-hub，Keras 完全支持 Llama 3.2，用户可以加载 Hugging Face 检查点，并在 JAX、PyTorch 或 TensorFlow 后端上运行模型。
Ollama 上的 IBM Granite 3.0 模型
IBM Granite 3.0 模型（包括稠密模型和混合专家 MoE 变体）现已在 Ollama 上通过 Apache 2.0 许可提供。
Anthropic 前沿模型破坏行为评估
Anthropic 引入了一套全新的破坏行为评估框架，用于检测 AI 模型是否能够误导用户、插入隐藏漏洞、隐藏能力或破坏监督系统。
OpenAI o1 推理模型：应对复杂问题求解
OpenAI 推出了 o1 推理模型，旨在解决编码、战略和研究领域的复杂问题。
Mistral AI 发布 Ministral 3B 和 8B 边缘模型
Mistral AI 推出了 Ministral 3B 和 8B，这两款最先进的边缘模型专为设备端计算、低延迟智能体工作流和隐私优先的本地推理而设计。
Hugging Face Transformers 梯度累积修复
Hugging Face 已更新 Transformers Trainer，通过纠正跨批次的损失平均方式，确保梯度累积在数学上等同于完整批次训练。
Anthropic 推出基于特征的分类器，采用字典学习技术
Anthropic 的可解释性团队宣布了使用字典学习特征作为分类器的初步实验，为微调后的语言模型提供了一种快速且可解释的替代方案。
OpenAI 在 ChatGPT 中评估公平性的研究摘要
OpenAI 的研究发现，基于姓名的有害刻板印象出现在不到 0.1% 的 ChatGPT 回复中，且整体答案质量在性别和种族姓名提示下保持一致。
Anthropic 负责任缩放政策更新
Anthropic 更新了其负责任缩放政策 (RSP)，引入了一个更灵活的风险治理框架，并设定了特定的性能阈值和按比例的 AI 安全等级 (ASL) 标准。
OpenAI MLE-bench：评估机器学习工程中的机器学习代理
OpenAI 推出 MLE-bench，这是一项使用 75 场 Kaggle 竞赛来衡量 AI 代理机器学习工程能力的基准，其中 o1-preview 在 16.9% 的任务中达到了铜牌水平。
Gradio 5 安全审查
Hugging Face 与 Trail of Bits 合作，对 Gradio 5 进行全面安全审计，修复了所有已识别的漏洞，确保机器学习应用默认安全。
AMD EPYC Turin CPU 实现比 Genoa 高出 2 倍的 LLM 推理吞吐量
AMD 第五代 EPYC Turin CPU 的 LLM 推理吞吐量约为 Genoa 的两倍，为 Hugging Face 工作负载实现更低的延迟和更高的吞吐量。
使用 Hugging Face 和 Dask 扩展 AI 数据处理规模
Hugging Face 和 Dask 通过分布式计算和多 GPU 并行推理，实现了 AI 数据处理从小规模本地样本到数亿行的扩展。
Gradio 5 发布说明
Hugging Face 已发布 Gradio 5，这是一款面向生产环境的框架，可使用 Python 构建高性能、可扩展且安全的机器学习 Web 应用程序。
OpenAI 与 Hearst 内容合作伙伴关系
OpenAI 与 Hearst 合作，将来自 20 多个杂志品牌和 40 多家报纸的内容整合到其 AI 产品（包括 ChatGPT）中，为用户提供更可靠且有引用的新闻报道。
Hugging Face Transformers 4.45.0 动态投机解码
Hugging Face 与 Intel Labs 在 Transformers 4.45.0 中引入了动态投机解码，通过根据模型置信度动态调整草稿 token 数量，实现了最高 **2.7 倍** 的文本生成加速。
Anthropic 美国大选准备工作
Anthropic 已实施了一套多层级的安全框架，包括使用政策更新、红队测试以及重定向至权威投票来源，以减轻 2024 年美国大选期间 AI 被滥用的风险。
在 Hugging Face Hub 上改进 Parquet 去重
Hugging Face 正在优化其存储架构以提升 Parquet 文件去重效率，提出基于内容定义的行组，以在数据集更新时降低存储开销。
Open FinLLM Leaderboard 发布 – 金融语言模型的全面零样本基准
Hugging Face 推出了 Open FinLLM Leaderboard，这是一项覆盖七大类、共 40 项金融专用任务的零样本基准，用于评估大型语言模型在真实金融场景中的准备程度。
OpenAI Canvas 测试版发布：用于 ChatGPT 的协作写作和编码界面
OpenAI 推出了 Canvas，这是一款测试版界面，允许 ChatGPT 在写作和编码项目中进行协作，支持内联编辑、版本控制和专用快捷键，最初面向 Plus 和 Team 用户推出。
OpenAI 建立 40 亿美元信用额度以提升财务灵活性
OpenAI 与全球银行联盟建立了 40 亿美元循环信用额度，以提升流动性并支持 AI 研究和基础设施的扩展。
中国人工智能全球扩张分析
中国人工智能公司正因国内市场饱和、激烈的价格战和监管压力而加速国际扩张，目标市场包括东南亚、中东以及西方消费市场。
OpenAI 融资公告 2024年10月
OpenAI 在后估值为1570亿美元的情况下，获得了66亿美元的新融资，以加速前沿 AI 研究并提升计算能力。
OpenAI 实时 API 发布
OpenAI 已在公开测试中推出实时 API，使开发者能够使用 GPT-4o 构建低延迟、多模态的语音对语音体验。
GPT-4o 视觉微调 API 发布
OpenAI 为 GPT-4o 引入了视觉微调，使开发者能够使用图像-文本数据集定制模型，以提升专门的视觉理解和目标检测能力。
OpenAI 提示缓存 API 发布
OpenAI 为 GPT-4o、GPT-4o mini、o1-preview 和 o1-mini 引入了提示缓存，提供 50% 的折扣并降低重复使用输入令牌的延迟。
OpenAI 模型蒸馏 API 集成
OpenAI 推出了一个集成的模型蒸馏套件，使开发者能够使用诸如 o1-preview 和 GPT-4o 等前沿模型的输出，对更小的模型（如 GPT-4o mini）进行微调并提升其性能。
OpenAI 与 Altera：使用 GPT-4o 创建协作式数字人类
Altera 开发了自主 AI 代理，称为数字人类，能够在类似《Minecraft》的环境中与人协作，采用受大脑启发的架构并由 GPT-4o 提供动力。
BenCzechMark：面向捷克语 LLM 的综合评估套件
Hugging Face 与学术合作伙伴发布了 BenCzechMark，这是首个面向捷克语模型的综合评估套件，包含 9 个类别的 50 项任务，并采用新颖的基于对决的计分机制。
OpenAI 打击 STORM-0817 伊朗关联的恶意软件活动
OpenAI 已禁用伊朗基地威胁行为体 STORM-0817 用于开发 Android 恶意软件、抓取 Instagram 个人资料以及对巴基斯坦网络安全专业人士进行侦察的账户。
OpenAI 打击与中国关联的 SweetSpecter 网络活动
OpenAI 识别并封禁了与中国籍对手 SweetSpecter 关联的账户，该对手试图利用 ChatGPT 进行攻击性网络行动，并对 OpenAI 员工发动了鱼叉式网络钓鱼攻击。
OpenAI 调查：伪造的俄罗斯网络喷子错误信息骗局
OpenAI 已驳斥了一则声称揭露俄罗斯网络喷子账户 GPT-4o 错误信息的病毒式帖子，揭示该事件是一次手工制作的骗局，可能起源于美国。
OpenAI 打击与伊朗关联的 CyberAv3ngers 网络研究活动
OpenAI 已封禁与伊朗关联的威胁组织 CyberAv3ngers 相关的账户，该组织利用大型语言模型进行侦察、代码调试以及针对工业控制系统的漏洞研究。
OpenAI 打击“Stop News”俄罗斯影响行动
OpenAI 禁用了一个由俄罗斯发起的影响行动——“Stop News”使用的多个 ChatGPT 账户，该行动利用 AI 生成的文本和图像冒充新闻媒体并建立欺骗性合作伙伴关系。
OpenAI 打击 A2Z 行动的多语言影响活动
OpenAI 封禁了一批使用其 API 进行多语言影响行动的账户，该行动被称为 Operation A2Z，利用 AI 管理虚假人格并在 X 与 Facebook 上生成政治内容。
OpenAI 打击 Bet Bot 赌博垃圾信息网络
OpenAI 封禁了一批通过以色列初创公司使用其 API 在 X 上运营赌博垃圾信息网络的账户，利用 AI 生成的身份诱导用户访问赌博网站。
OpenAI 打击 STORM-2035 伊朗影响行动
OpenAI 封禁了伊朗起源的行为者（代号 Storm-2035）使用的 ChatGPT 账户，这些账户用于生成针对美国选举及其他全球政治议题的欺骗性长篇文章和社交媒体评论。
OpenAI 打击卢旺达选举政治评论网络
OpenAI 禁止了在卢旺达使用的一个 ChatGPT 账户网络，该网络用于生成偏袒选举内容，并试图通过大规模评论刷屏操纵 X 趋势。
OpenAI Tort Report: Disrupting Abusive Reporting Activity
OpenAI 封禁了参与 "Tort Report" 的账号，这是一项 Category 1 影响力行动，利用 AI 生成针对 Facebook 和 YouTube 上越南独立媒体机构的笼统报告。
OpenAI 打击“腐败评论”影响行动
OpenAI 禁止了一批用于在 X 上生成英文评论、针对反腐基金会及阿列克谢·纳瓦尔尼关联人士的 API 活动。