OpenAI 打击“Sponsored Discontent”影响行动
OpenAI 已封禁与一项名为“Sponsored Discontent”的中国影响行动相关的账户,该行动利用 ChatGPT 生成针对美国和一位中国异见人士的批评内容,最终在拉美主流媒体植入长篇文章。
OpenAI 使用 AI 打击与朝鲜(DPRK)关联的网络威胁行为者
OpenAI 已封禁与朝鲜(DPRK)关联的威胁行为者账户,包括 VELVET CHOLLIMA 和 STARDUST CHOLLIMA,这些行为者利用 AI 进行代码协助、调试和社会工程研究。
OpenAI 使用 ChatGPT 打击伊朗影响网络
OpenAI 已封禁五个被伊朗关联的影响行动 STORM-2035 和 IUVM 用于生成亲伊朗、亲哈马斯内容的 ChatGPT 账户,这些内容跨多语言和平台发布。
OpenAI 打击针对加纳选举的隐蔽影响行动
OpenAI 禁用了由名为 DigitSol 的商业实体使用的一批 ChatGPT 账户,这些账户在加纳总统选举期间用于生成支持 Bawumia、抨击 Mahama 的隐蔽影响行动内容。
OpenAI 打击 AI 辅助任务诈骗网络
OpenAI 已封禁一批由柬埔寨网络用于通过 AI 翻译和社会工程实施“任务诈骗”的 ChatGPT 账户。
OpenAI 打击 AI 辅助的欺诈性招聘计划
OpenAI 禁用了数十个用于欺诈性招聘计划的账户,该计划利用 AI 伪造求职申请、进行面试并执行工作任务,其手法与归因于朝鲜国家行动的 TTP 相符。
OpenAI Operation Peer Review:破坏 AI 辅助的监视规划
OpenAI 禁止了一批可能来源于中国的 ChatGPT 账户,这些账户使用 AI 辅助研究政治行为者、分析抗议文件并开发监视工具。
OpenAI o3-mini 系统卡
OpenAI 发布了 o3-mini 系统卡,详细说明了大规模强化学习和思维链推理如何使模型在安全性能上达到最先进水平,并在准备框架下获得中等风险分类。
OpenAI o3-mini 发布说明 / 新功能概览
OpenAI 已发布 o3-mini,一个针对 STEM 优化的高效推理模型,在数学、编码和科学方面提供与 o1 相当的性能,同时具有更低的延迟和扩展的开发者功能。
Mini-R1: 通过 GRPO 和倒计时游戏再现 DeepSeek-R1 推理
Hugging Face 展示了如何通过在 Countdown Game 上使用 Group Relative Policy Optimization (GRPO) 训练 Qwen2.5-3B 模型来再现 DeepSeek-R1 的 'aha moment'(自我纠正和推理)。
Hugging Face 艺术 AI 工具通讯 第 1 期
Hugging Face 已推出一份月度通讯,详细阐述了开源创意 AI 的现状,突出了 2024 年向 Diffusion Transformers 的转变以及高质量开源视频和音频模型的出现。
OpenAI 与美国国家实验室合作伙伴关系
OpenAI 已与美国国家实验室合作,在 Venado 超级计算机上部署推理模型,以加速科学研究并加强国家安全。
如何在 AWS 上部署和微调 DeepSeek R1 模型
Hugging Face 展示了如何使用 Hugging Face Inference Endpoints、Amazon Bedrock Marketplace、Amazon SageMaker AI(GPU 和 Neuron 实例)以及使用 Hugging Face Neuron Deep Learning AMI 的 EC2 Neuron,在 AWS 上部署 DeepSeek R1 及其蒸馏变体并进行微调。
Qwen2.5-Max 发布说明
Qwen 发布了 Qwen2.5-Max,这是一个在超过 20 万亿个 token 上预训练的大规模 Mixture-of-Experts (MoE) 模型,可通过 API 和 Qwen Chat 使用。
Open-R1:对 DeepSeek-R1 的完全开源复现
Hugging Face 推出了 Open-R1 项目,旨在系统地重构 DeepSeek-R1 的数据和训练流水线,目标是为开源社区提供构建推理模型所缺失的数据集和代码。
Hugging Face 推理提供商集成
Hugging Face 已将四个无服务器推理提供商——fal、Replicate、SambaNova 和 Together AI——直接集成到 Hub 中,以提供统一的、以模型为中心的无服务器推理。
Diffusers 中的开放视频生成模型现状
Hugging Face 对开放视频生成模型提供了全面的概述,并介绍了一套 Diffusers 优化方案,可将 HunyuanVideo 等模型的显存需求从 60GB 降低至约 6.5GB.
Qwen2.5-1M 发布:开源 7B 和 14B 模型,支持 1M Token 上下文及基于 vLLM 的推理框架
Qwen 发布了开源的 Qwen2.5-7B-Instruct-1M 和 Qwen2.5-14B-Instruct-1M 模型,支持高达 100 万 token 的上下文,并配有优化的基于 vLLM 的推理框架,可实现 3-7 倍的预填充加速,并保持与 GPT-4o-mini 相当的短任务性能。
Qwen2.5-VL 发布说明
Qwen 发布了 Qwen2.5-VL,这是一个旗舰视觉语言模型,提供 3B、7B 和 72B 三种规模,引入了先进的视觉代理能力、长视频理解和结构化文档解析。
smolagents 视觉支持更新
Hugging Face 为 smolagents 添加了原生视觉支持,使得 Vision Language Models (VLMs) 可以在 agentic 流水线中用于诸如自主网页浏览之类的任务。
OpenAI Operator 研究预览
OpenAI 已推出 Operator,这是一个由 Computer-Using Agent (CUA) 模型驱动的 AI 代理的研究预览,能够独立导航网页浏览器以执行诸如填写表单和订购杂货之类的任务。
OpenAI 使用计算机的代理 (CUA) 和 Operator 研究预览
OpenAI 推出了使用计算机的代理(CUA),这是一种能够通过屏幕、鼠标和键盘的通用界面与图形用户界面(GUI)交互以执行数字任务的模型,目前通过 Operator 提供研究预览版。
OpenAI Operator 系统卡
OpenAI 已推出 Operator,这是一个 Computer-Using Agent (CUA) 模型的研究预览版,能够与 GUI 交互以代表用户执行任务,并得到多层安全框架的支持,以降低诸如提示注入和模型错误等风险。
NVIDIA KVPress: 用于长上下文 LLMs 的 KV 缓存压缩工具包
NVIDIA 已发布 KVPress,一个 Python 工具包,实现了最先进的 KV 缓存压缩技术,以减少长上下文大型语言模型的内存占用并提高解码速度。
SmolVLM 256M 和 500M 发布说明
Hugging Face 发布了 SmolVLM-256M 和 SmolVLM-500M,提供了高效的视觉语言模型,在参数量显著减少的情况下仍能保持强大的多模态性能。
Bertelsmann 与 OpenAI 合作进行企业级 AI 集成
Bertelsmann 正在将 OpenAI 技术和 ChatGPT Enterprise 整合到其全球媒体、服务和教育品牌中,以大规模提升创造力、生产力和产品开发。
用推理时间计算换取对抗鲁棒性
OpenAI 研究表明,在 o1-preview 和 o1-mini 等推理模型中增加推理时间计算可以提高其对多种对抗攻击的鲁棒性。
Hugging Face 与 FriendliAI 合作进行模型部署
Hugging Face 已将 FriendliAI 的推理基础设施集成到 Hugging Face Hub,实现了生成式 AI 模型的一键部署到高性能端点。
OpenAI 星门基础设施倡议
OpenAI 正在寻求与美国本土的数据中心基础设施公司合作,以开发其下一代 AI 系统所需的物理容量。
OpenAI 宣布 Stargate 项目
OpenAI 及其合作伙伴已启动 Stargate 项目,这是一项 5000 亿美元的倡议,旨在美国建设庞大的 AI 基础设施以支持 AGI 的发展。
Hugging Face 组织博客文章功能
Hugging Face 现在允许订阅了 Enterprise Hub 的组织直接在其组织资料上发布博客文章。
Qwen 全局批次负载均衡用于 MoE LLM 训练
Qwen 引入了一种全局批次负载均衡损失,通过在整个全局批次而非单个微批次上计算平衡,提高了 MoE 模型性能并实现了专家专业化。
Hugging Face Text Generation Inference (TGI) 多后端支持
Hugging Face 为 Text Generation Inference (TGI) 引入了多后端架构,使用户能够通过统一的前端利用如 TensorRT-LLM 和 vLLM 等各种执行引擎部署 LLMs。
Hugging Face Transformers timm 集成
Hugging Face 已经引入了 TimmWrapper,使得 PyTorch Image Models (timm) 库中的任何模型都能够在 transformers 生态系统中无缝用于推理、量化和微调。
OpenAI 新闻行业合作伙伴关系与 Axios 扩展
OpenAI 已宣布与 Axios 建立新的内容合作伙伴关系,并扩大对地方新闻的资助,同时详细说明近 20 家媒体组织如何整合 AI 以简化生产、提升用户参与度并优化业务运营。
使用 Sentence Transformers 训练速度提升 400 倍的静态嵌入模型
Hugging Face 推出了一种训练静态嵌入模型的方法,该模型在 CPU 上的运行速度比 all‑mpnet‑base‑v2 等模型快 100x–400x,同时保留了至少 85% 的质量,并发布了两个模型(static‑retrieval‑mrl‑en‑v1 和 static‑similarity‑mrl‑multilingual‑v1)以及训练脚本和评估结果。
Adebayo Ogunlesi 加入 OpenAI 董事会
Adebayo Ogunlesi,Global Infrastructure Partners 首席执行官兼 BlackRock 高级董事总经理,已加入 OpenAI 董事会,以提供基础设施投资和全球市场战略方面的专业知识。
Qwen2.5-Math-PRM 和 ProcessBench 发布
Qwen 发布了 Qwen2.5-Math-PRM-7B 和 72B,这些是最先进的过程奖励模型,旨在识别数学问题求解中的中间推理错误,同时发布了 ProcessBench,一个新的逐步评估基准。
Hugging Face AI 代理伦理与框架分析
Hugging Face 提供了一个全面的框架来理解 AI 代理,认为风险随着自主性的增加而增加,并建议不要开发完全自主的代理。
Hugging Face 发布 vdr-2b-multi-v1 多语言视觉文档检索模型
Hugging Face 推出了 vdr-2b-multi-v1,这是一个用于视觉文档检索的多语言嵌入模型,通过将页面截图编码为密集向量,实现无需 OCR 即可搜索复杂文档。
Hugging Face Open LLM Leaderboard:CO₂ 排放与模型性能分析
Hugging Face 揭示,由于更高的简洁性和更强的指令遵循能力,社区微调模型通常比官方发布版本表现出更高的碳效率。
Hugging Face smolagents 发布
Hugging Face 已推出 smolagents,一个轻量级库,使 LLMs 能够通过将动作写为可执行代码而非 JSON 来执行复杂任务,从而提升可组合性和通用性。
OpenAI 公司结构演变
OpenAI 计划将其营利性部门转变为特拉华州公益公司,以更好地吸引资本并维持其非营利使命,即确保通用人工智能(AGI)造福全人类。
QVQ-72B-Preview 发布
Qwen 发布了 QVQ-72B-Preview,一个基于 Qwen2-VL-72B 的开放权重多模态推理模型,在 MMMU 基准测试中取得了 70.3 分。
可视化并理解 PyTorch 中的 GPU 内存 – Hugging Face 博客摘要
Hugging Face 的博客文章解释了如何使用 torch.cuda.memory 工具在 PyTorch 中可视化 GPU 内存使用情况,分解了模型训练期间的内存组成部分,并提供了估算总内存需求的公式。
NVIDIA LogitsProcessorZoo: 使用模块化 Logits 处理器控制语言模型生成
NVIDIA 的 LogitsProcessorZoo 为 Hugging Face Transformers 提供了模块化的 Logits 处理器,使开发者能够控制生成长度、强制短语包含、引用提示内容,并将输出限制为多选答案。
审慎对齐:推理使语言模型更安全
OpenAI 提出审慎对齐,这是一种训练范式,它教导 o 系列模型在显式安全规范上进行推理,从而提高安全性,并相比之前的模型减少了欠拒绝和过度拒绝。
Big Bench Audio 发布
Artificial Analysis 发布了 Big Bench Audio,这是一个由 1,000 个音频问题组成的数据集,旨在评估音频语言模型的推理能力,揭示了文本和语音推理之间的显著性能差距。
ModernBERT 发布说明
Hugging Face、Answer.AI 和 LightOn 发布了 ModernBERT,这是一个最先进的仅编码器模型系列,在 BERT 的速度、准确性和上下文长度(达到 8,192 个标记)方面有所提升。
Bamba-9B: 推理高效的 Hybrid Mamba2 模型
Bamba-9B 是由 IBM、普林斯顿大学、CMU 和 UIUC 开发的 hybrid Mamba2 模型,基于 2.2T 开放 token 训练。在 vLLM 中,其吞吐量比 Llama 3.1 8B 高出 2.5 倍,延迟降低了 2 倍,并可立即在 transformers、vLLM、TRL 和 llama.cpp 中使用。