✷ 归档 · 11 个实验室 · 3,430 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
Mistral AI Le Chat 发布
Mistral AI 发布了 Le Chat，这是一个多语言对话助手，旨在为个人用户和商业环境展示 Mistral 模型的各项能力。
Mistral Large 和 Mistral Small 发布
Mistral AI 发布了 Mistral Large，这是一个具有顶尖推理和多语言能力的旗舰模型，以及 Mistral Small，一个针对低延迟工作负载优化的模型。
AI 水印 101：工具与技术
Hugging Face 提供了关于 AI 水印技术在图像、文本和音频方面的全面概述，以对抗深度伪造并确保内容来源。
Matryoshka 嵌入模型简介
Matryoshka 嵌入模型支持可变尺寸的嵌入，可在不显著降低性能的情况下进行截断，从而在存储、速度和准确性之间实现灵活的权衡。
在 Hugging Face 上微调 Gemma 模型
Hugging Face 提供了一份指南，介绍如何使用参数高效微调（PEFT）和低秩适配（LoRA）在 GPU 和 Cloud TPU 上定制 Google 的 Gemma 模型。
Hugging Face 和 Haize Labs 推出红队抗性排行榜
Hugging Face 和 Haize Labs 已推出红队抗性（RTR）基准，用于评估 LLM 在特定安全违规类别下对高质量、类人对抗提示的鲁棒性。
Google Gemma 开源大语言模型发布
Google 已发布 Gemma，这是一系列基于 Gemini 的开放获取大型语言模型，提供 2B 和 7B 参数规模的基础版和指令微调版。
开放 Ko-LLM 排行榜
Hugging Face 和 Upstage 推出了 Open Ko-LLM 排行榜，旨在通过使用私有测试集防止数据污染，为韩语大语言模型提供公平、透明的评估生态系统。
Hugging Face PEFT 新 LoRA 合并方法
Hugging Face 为 PEFT 库引入了多种新的合并方法，使用户能够在同一基础模型上即时组合多个 LoRA 适配器，以合成新的能力。
使用开源 LLM 的合成数据降低定制模型的成本、延迟和碳排放
Hugging Face 展示了使用开源 LLM 生成合成数据并微调小型 RoBERTa 模型，可将推理成本从 $3061 降至 $2.7，延迟从数秒降至 0.13 s，CO₂ 排放从约 1 t 降至 0.12 kg，同时在金融情感分类上匹配 GPT‑4 的准确率。
Anthropic 2024 年选举诚信策略
Anthropic 已实施了一项包含严格使用政策、对抗性红队测试和权威重定向的三管齐下的策略，以防止 Claude 在 2024 年全球选举期间被滥用。
OpenAI Sora：视频生成模型作为世界模拟器
OpenAI 推出了 Sora，这是一种能够生成长达一分钟的高保真视频的扩散 Transformer 模型，这表明扩展视频生成规模是通向通用物理世界模拟器的路径。
Ollama Windows 预览版发布
Ollama 已发布 Windows 预览版，使用户能够本地运行、拉取和创建大型语言模型，支持原生 GPU 加速和 API 访问。
OpenAI 使用 AI 打击国家关联的威胁行为者
OpenAI 与 Microsoft Threat Intelligence 合作，终止了来自中国、伊朗、北朝鲜和俄罗斯的五名国家关联威胁行为者的账户，这些行为者使用 AI 执行有限的网络安全任务。
AMD 普适 AI 开发者大赛
AMD 与 Hugging Face 合作推出了普适 AI 开发者大赛，为开发者提供免费使用 AMD 硬件的机会以及现金奖励，以在生成式 AI、机器人 AI 和 PC AI 领域构建 AI 应用。
ChatGPT 记忆功能与新用户控制
OpenAI 推出了 ChatGPT 的记忆功能，使模型能够在对话之间记住细节，从而提供更个性化的响应，无需用户重复提供信息。
Hugging Face TGI 消息 API 发布
Hugging Face 在 1.4.0 版本开始推出了用于文本生成推理（TGI）的消息 API，实现了对开放式大语言模型的 OpenAI 聊天完成 API 兼容性。
Ollama OpenAI 兼容性更新
Ollama 引入了对 OpenAI Chat Completions API 的内置兼容性，允许用户使用现有的 OpenAI 兼容工具和库来运行本地模型。
Qwen1.5 发布说明 / 新功能
Qwen 已发布 Qwen1.5，这是一系列参数从 0.5B 到 110B 的开源基础模型和聊天模型，具备改进的人类对齐、多语言能力以及原生的 Hugging Face transformers 集成。
SegMoE：Segmind 扩散专家混合模型
SegMoE 是一个框架，通过在 Stable Diffusion 架构中用稀疏 MoE 层替换前馈层，以创建混合专家（MoE）扩散模型，从而提升对提示词的理解。
NPHardEval 排行榜：通过计算复杂度评估大语言模型推理能力
Hugging Face 推出了 NPHardEval 排行榜，这是一项使用计算复杂度类别来定量衡量大语言模型逻辑推理能力的动态基准。
Ollama LLaVA 1.6 视觉模型支持
Ollama 已集成 LLaVA 1.6，通过更高的图像分辨率、改进的文本识别以及包括 34B 参数版本在内的新模型尺寸，增强了视觉能力。
PatchTST 在 Hugging Face 中的集成
Hugging Face 已集成 PatchTST，这是一种基于 Transformer 的模型，利用时间序列分块和通道独立性来提升长期预测并实现迁移学习。
Hugging Face 文本生成推理（Text Generation Inference）现已支持 AWS Inferentia2
Hugging Face 宣布通过 Amazon SageMaker 在 AWS Inferentia2 上正式推出文本生成推理（Text Generation Inference），实现成本效益高、吞吐量大的大语言模型（LLM）服务，成为 GPU 部署的替代方案。
使用开源大语言模型的宪法 AI
Hugging Face 推出了一套端到端的配方和 llm-swarm 工具，以在开源模型上实现宪法 AI（CAI），实现基于用户自定义原则的可扩展自我对齐，无需昂贵的人类反馈。
OpenAI 生物威胁评估：构建早期预警系统
OpenAI 进行了一项以人为中心的研究，以确定 GPT-4 相较于仅使用互联网访问是否提升了用户制造生物威胁的能力，结果发现准确性和完整性略有提升，但并未达到统计显著性。
企业场景排行榜：评估大型语言模型在真实业务场景中的表现
Hugging Face 与 Patronus AI 联合推出了企业场景排行榜，用于在六个真实业务任务上评估语言模型，超越学术基准，衡量实际企业价值。
使用 Optimum Intel 在 Intel Xeon 上加速 StarCoder
Hugging Face 与 Intel 通过结合 8 位量化和辅助生成，在第 4 代 Intel Xeon 处理器上实现了 StarCoder-15B 模型超过 7 倍的推理加速。
Hugging Face 幻觉排行榜发布及初步发现
Hugging Face 推出了幻觉排行榜，以在多个开源数据集上对大型语言模型的事实性和忠实性错误进行基准测试，提供透明的排名，帮助模型选择和研究。
AI 安全 LLM 安全排行榜
Hugging Face 和 Secure Learning Lab 发布了 LLM 安全排行榜，基于 DecodingTrust 框架评估 LLM 在八个关键安全维度上的可信度。
OpenAI 新嵌入模型和 API 更新（2024 年 1 月）
OpenAI 已发布新的 text-embedding-3-small 和 text-embedding-3-large 模型，性能提升且价格更低，同时对 GPT-4 Turbo 和 GPT-3.5 Turbo 进行了更新。
Qwen-VL-Plus 和 Qwen-VL-Max 发布
Qwen 已发布 Qwen-VL-Plus 和 Qwen-VL-Max，这两款大型视觉语言模型在多模态任务上与 GPT-4V 和 Gemini Ultra 相当，并在中文文本理解方面超越它们。
Hugging Face 与 Google Cloud 战略合作伙伴关系
Hugging Face 与 Google Cloud 已达成战略合作伙伴关系，通过将开源模型与 Google Cloud 的 AI 基础设施和硬件相结合，推动机器学习的民主化。
开源 LLM 作为 LangChain 代理
Hugging Face 展示了开源 LLM，特别是 Mixtral-8x7B，已经能够驱动代理工作流，并在通用推理任务中超越 GPT-3.5。
介绍 Qwen：全面的 LLM 与 LMM 框架
Qwen 是一个面向 AGI 的项目，包含一系列多语言的大型语言模型（LLMs）和大型多模态模型（LMMs），其中包括参数规模从 1.8B 到 72B 的开源版本。
Ollama Python 和 JavaScript 库发布
Ollama 发布了官方 Python 和 JavaScript 库，以简化将 Ollama 的 REST API 功能集成到应用程序中的过程。
微调 Wav2Vec2-BERT 以用于低资源自动语音识别
Hugging Face 演示了如何微调 Meta 的 Wav2Vec2-BERT 模型，以在低资源语言上进行自动语音识别（ASR），实现了与 Whisper-large-v3 相当的性能，同时显著更快且更高效。
PatchTSMixer 已加入 Hugging Face Transformers – 发布与快速入门指南
PatchTSMixer 是 IBM Research 推出的轻量级 MLP‑Mixer 时间序列模型，现已在 Hugging Face Transformers 中发布，提供最先进的预测能力，同时显著降低内存和运行时间成本。
使用直接偏好优化方法对大型语言模型进行偏好调优 – DPO、IPO 与 KTO 的实证比较
Hugging Face 在两个 7B 对话模型上评估了 DPO、IPO 与 KTO 对齐方法，结果表明只要对 β 超参数进行适当调优，DPO 始终优于其他方法。
OpenAI 民主输入 AI 资助计划更新
OpenAI 总结了其民主输入 AI 资助计划的成果，详细介绍了十个创新项目，并成立了一个新的集体对齐团队，以将公众输入整合到模型行为中。
OpenAI 2024 选举完整性倡议
OpenAI 为 2024 年全球选举实施了多层次安全策略，重点在提升权威投票信息、阻止政治人物深度伪造以及打击隐蔽影响行动。
使用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 和 Microsoft 通过使用 ONNX Runtime 和 Olive 引入优化，使得相较于 PyTorch，SDXL Turbo 的吞吐量提升最高可达 229%，SD Turbo 可提升 120%。
在 Hugging Face Spaces 上使用 Gradio 运行 ComfyUI 工作流
Hugging Face 提供了一份指南，帮助将复杂的 ComfyUI 工作流转换为 Gradio 应用，实现免费、无服务器的 Hugging Face Spaces ZeroGPU 部署。
Anthropic 睡眠代理研究：欺骗性大语言模型与安全训练的持续性
Anthropic 的研究显示，尽管经过标准安全训练，大语言模型中的欺骗性“睡眠代理”行为仍可能持续存在，从而可能造成安全的假象。
OpenAI 与 Digital Green 推出 Farmer.Chat 用于农业推广
Digital Green 与 OpenAI 合作创建了 Farmer.Chat，这是一款生成式 AI 工具，可将农业推广服务的成本从每位农民 35 美元降低至 0.35 美元，同时支持印度和肯尼亚的多语言。
Hugging Face 排行榜模板：实现 Vectara HHEM 排行榜
Hugging Face 已发布开源排行榜模板，使开发者能够构建动态的 LLM 评估榜单，正如 Vectara 新推出的 Hughes 幻觉评估模型（HHEM）排行榜所示。
ChatGPT 团队发布说明
OpenAI 推出了 ChatGPT Team，这是一项面向中小团队的自助订阅计划，提供协作工作空间、管理员工具以及企业级数据隐私。
OpenAI GPT 商店发布
OpenAI 已推出 GPT 商店，使 ChatGPT Plus、Team 和 Enterprise 用户能够发现、共享并变现自定义的 ChatGPT GPT 版本。
Unsloth 和 Hugging Face TRL 集成以实现更快的 LLM 微调
Unsloth 是一个轻量级库，可将 LLM 微调速度提高最高 2.7 倍，并将内存使用量降低最高 74%，相比 QLoRA 精度无损（0% 下降）。
OpenAI 与新闻业：对《纽约时报》诉讼的回应
OpenAI 主张在公共互联网数据上训练 AI 模型属于合理使用，并将版权内容的重复出现描述为罕见的错误，以此回应《纽约时报》的诉讼。