使用开源大语言模型的宪法 AI
Hugging Face 推出了一套端到端的配方和 llm-swarm 工具，以在开源模型上实现宪法 AI（CAI），实现基于用户自定义原则的可扩展自我对齐，无需昂贵的人类反馈。
OpenAI 生物威胁评估：构建早期预警系统
OpenAI 进行了一项以人为中心的研究，以确定 GPT-4 相较于仅使用互联网访问是否提升了用户制造生物威胁的能力，结果发现准确性和完整性略有提升，但并未达到统计显著性。
企业场景排行榜：评估大型语言模型在真实业务场景中的表现
Hugging Face 与 Patronus AI 联合推出了企业场景排行榜，用于在六个真实业务任务上评估语言模型，超越学术基准，衡量实际企业价值。
使用 Optimum Intel 在 Intel Xeon 上加速 StarCoder
Hugging Face 与 Intel 通过结合 8 位量化和辅助生成，在第 4 代 Intel Xeon 处理器上实现了 StarCoder-15B 模型超过 7 倍的推理加速。
Hugging Face 幻觉排行榜发布及初步发现
Hugging Face 推出了幻觉排行榜，以在多个开源数据集上对大型语言模型的事实性和忠实性错误进行基准测试，提供透明的排名，帮助模型选择和研究。
AI 安全 LLM 安全排行榜
Hugging Face 和 Secure Learning Lab 发布了 LLM 安全排行榜，基于 DecodingTrust 框架评估 LLM 在八个关键安全维度上的可信度。
OpenAI 新嵌入模型和 API 更新（2024 年 1 月）
OpenAI 已发布新的 text-embedding-3-small 和 text-embedding-3-large 模型，性能提升且价格更低，同时对 GPT-4 Turbo 和 GPT-3.5 Turbo 进行了更新。
Qwen-VL-Plus 和 Qwen-VL-Max 发布
Qwen 已发布 Qwen-VL-Plus 和 Qwen-VL-Max，这两款大型视觉语言模型在多模态任务上与 GPT-4V 和 Gemini Ultra 相当，并在中文文本理解方面超越它们。
Hugging Face 与 Google Cloud 战略合作伙伴关系
Hugging Face 与 Google Cloud 已达成战略合作伙伴关系，通过将开源模型与 Google Cloud 的 AI 基础设施和硬件相结合，推动机器学习的民主化。
开源 LLM 作为 LangChain 代理
Hugging Face 展示了开源 LLM，特别是 Mixtral-8x7B，已经能够驱动代理工作流，并在通用推理任务中超越 GPT-3.5。
介绍 Qwen：全面的 LLM 与 LMM 框架
Qwen 是一个面向 AGI 的项目，包含一系列多语言的大型语言模型（LLMs）和大型多模态模型（LMMs），其中包括参数规模从 1.8B 到 72B 的开源版本。
微调 Wav2Vec2-BERT 以用于低资源自动语音识别
Hugging Face 演示了如何微调 Meta 的 Wav2Vec2-BERT 模型，以在低资源语言上进行自动语音识别（ASR），实现了与 Whisper-large-v3 相当的性能，同时显著更快且更高效。
PatchTSMixer 已加入 Hugging Face Transformers – 发布与快速入门指南
PatchTSMixer 是 IBM Research 推出的轻量级 MLP‑Mixer 时间序列模型，现已在 Hugging Face Transformers 中发布，提供最先进的预测能力，同时显著降低内存和运行时间成本。
使用直接偏好优化方法对大型语言模型进行偏好调优 – DPO、IPO 与 KTO 的实证比较
Hugging Face 在两个 7B 对话模型上评估了 DPO、IPO 与 KTO 对齐方法，结果表明只要对 β 超参数进行适当调优，DPO 始终优于其他方法。
OpenAI 民主输入 AI 资助计划更新
OpenAI 总结了其民主输入 AI 资助计划的成果，详细介绍了十个创新项目，并成立了一个新的集体对齐团队，以将公众输入整合到模型行为中。
OpenAI 2024 选举完整性倡议
OpenAI 为 2024 年全球选举实施了多层次安全策略，重点在提升权威投票信息、阻止政治人物深度伪造以及打击隐蔽影响行动。
使用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 和 Microsoft 通过使用 ONNX Runtime 和 Olive 引入优化，使得相较于 PyTorch，SDXL Turbo 的吞吐量提升最高可达 229%，SD Turbo 可提升 120%。
在 Hugging Face Spaces 上使用 Gradio 运行 ComfyUI 工作流
Hugging Face 提供了一份指南，帮助将复杂的 ComfyUI 工作流转换为 Gradio 应用，实现免费、无服务器的 Hugging Face Spaces ZeroGPU 部署。
OpenAI 与 Digital Green 推出 Farmer.Chat 用于农业推广
Digital Green 与 OpenAI 合作创建了 Farmer.Chat，这是一款生成式 AI 工具，可将农业推广服务的成本从每位农民 35 美元降低至 0.35 美元，同时支持印度和肯尼亚的多语言。
Hugging Face 排行榜模板：实现 Vectara HHEM 排行榜
Hugging Face 已发布开源排行榜模板，使开发者能够构建动态的 LLM 评估榜单，正如 Vectara 新推出的 Hughes 幻觉评估模型（HHEM）排行榜所示。
ChatGPT 团队发布说明
OpenAI 推出了 ChatGPT Team，这是一项面向中小团队的自助订阅计划，提供协作工作空间、管理员工具以及企业级数据隐私。
OpenAI GPT 商店发布
OpenAI 已推出 GPT 商店，使 ChatGPT Plus、Team 和 Enterprise 用户能够发现、共享并变现自定义的 ChatGPT GPT 版本。
Unsloth 和 Hugging Face TRL 集成以实现更快的 LLM 微调
Unsloth 是一个轻量级库，可将 LLM 微调速度提高最高 2.7 倍，并将内存使用量降低最高 74%，相比 QLoRA 精度无损（0% 下降）。
OpenAI 与新闻业：对《纽约时报》诉讼的回应
OpenAI 主张在公共互联网数据上训练 AI 模型属于合理使用，并将版权内容的重复出现描述为罕见的错误，以此回应《纽约时报》的诉讼。
WHOOP Coach: 通过 GPT-4 进行个性化健康指导
WHOOP 已将 OpenAI 的 GPT-4 集成以推出 WHOOP Coach，这是一个由 AI 驱动的健康和健身教练，能够根据用户独特的生理数据提供个性化的即时指导。
aMUSEd：高效文本到图像生成
Hugging Face 发布了 aMUSEd，这是一款基于遮罩图像建模（MIM）的高效非扩散文本到图像模型，也是对 Google 的 MUSE 的公开复现。
Hugging Face SDXL Dreambooth LoRA 高级训练指南
Hugging Face 引入了一个用于 SDXL Dreambooth LoRA 的高级训练脚本，结合了 Pivotal Tuning 和 Prodigy 优化器，以提升概念捕获和图像质量。
投机解码实现 Whisper 推理速度提升 2×
Hugging Face 证明，投机解码将 Whisper 转录延迟减半，同时保持输出和准确性完全一致。
2023 年开放大语言模型回顾
Hugging Face 2023 年回顾显示，开源 LLM 发布激增，出现了更小但性能更强的模型，以及新颖的微调技术，极大拓宽了访问渠道和社区参与度。
OpenAI 对治理具备代理性的 AI 系统的实践
OpenAI 提出了一套基础责任和安全最佳实践框架，以确保具备代理性的 AI 系统——在有限监督下追求复杂目标的 AI——能够负责任地融入社会。
OpenAI 超级对齐快速资助
OpenAI 已启动一项 $1000 万美元的资助计划，用于资助超人类 AI 系统的对齐与安全的技术研究。
Summer Health 使用 GPT-4 自动化儿科就诊记录
Summer Health 已集成 GPT-4，将儿科医生的观察转化为清晰、无行话的就诊记录，使每份记录的行政时间从 10 分钟降低至 2 分钟。
OpenAI 弱到强泛化研究
OpenAI 研究人员已经证明，较小、能力较弱的模型可以监督更大的模型，以激发接近 GPT-3.5 水平的能力，为对齐超人类 AI 系统提供了一条潜在路径。
OpenAI 与 Axel Springer 的 AI 新闻合作伙伴关系
OpenAI 与 Axel Springer 合作，将 POLITICO、Business Insider 等品牌的权威新闻内容整合到 ChatGPT 中，同时利用 Axel Springer 的内容用于大型语言模型的训练。
专家混合（MoE）解释
专家混合（MoE）通过在每个 token 上仅激活部分神经网络专家，使 Transformer 模型能够在扩展参数规模的同时保持高效的预训练和更快的推理。
Mixtral 8x7B 发布说明
Mistral AI 已发布 Mixtral 8x7B，这是一款 Mixture of Experts（MoE）模型，在大多数基准测试中超越 Llama 2 70B 并匹配 GPT-3.5 的性能，同时在 Apache 2.0 许可证下保持商业宽松。
SetFitABSA：少样本方面情感分析
Hugging Face 和 Intel Labs 推出了 SetFitABSA，这是一种无需提示、少样本的方面情感分析框架，在数据稀缺的情况下能够超越更大的生成模型如 Llama 2 和 T5 的表现。
Optimum-NVIDIA 发布说明
Hugging Face 发布了 Optimum-NVIDIA，这是一款通过 FP8 量化和 TensorRT-LLM 在 NVIDIA 平台上将 LLM 推理加速至最高 28 倍的推理库。
Hugging Face LoRA 动态加载加速推理 300% 并降低延迟
Hugging Face 宣布了一套动态 LoRA 加载系统，将热身时间从 25 秒降低至 3 秒，使 LoRA 推理速度提升最高达 300%，并将总响应时间从 35 秒缩短至 13 秒。
Hugging Face 与 AMD 为 LLM 提供 GPU 加速
Hugging Face 与 AMD 已将针对 AMD Instinct GPU 的开箱即用支持集成到 Transformers 库和 Text Generation Inference 中，实现了无需更改代码即可进行高性能 LLM 执行。
Hugging Face Open LLM Leaderboard DROP 基准分析
Hugging Face 在发现有缺陷的归一化和停止令牌配置导致大多数模型得分异常低后，已将 DROP 基准从 Open LLM Leaderboard 中移除。
OpenAI 领导层更新：山姆·阿尔特曼回任 CEO
山姆·阿尔特曼已回任 OpenAI 首席执行官，并在新初始董事会的支持下以及加强公司治理的承诺下开展工作。
OpenAI 领导层过渡：米拉·穆拉蒂被任命为临时首席执行官
OpenAI 已任命米拉·穆拉蒂为临时首席执行官，继萨姆·阿尔特曼离开首席执行官职位和董事会之后。
OpenAI 数据合作伙伴
OpenAI 已推出数据合作伙伴计划，旨在与组织合作创建公共和私有数据集用于训练 AI 模型，以提升特定领域的理解并迈向通用人工智能（AGI）。
SDXL 和 Stable Diffusion 使用 Latent Consistency LoRAs 的快速推理
Hugging Face 推出 LCM LoRAs，一种使 SDXL 和 Stable Diffusion 模型能够在 4 到 8 步内生成高质量图像的方法，显著降低推理时间。
Prodigy-HF 集成发布说明
Explosion 已发布 Prodigy-HF，一个插件，使得可以在标注数据上直接微调 Hugging Face Transformer 模型，并能够直接将数据集上传到 Hugging Face Hub。
在 AWS Inferentia2 上使用 optimum-neuron 部署 Llama 2
Hugging Face 已将 optimum-neuron 与 AWS Neuron SDK 集成，以在 AWS Inferentia2 加速器上部署 Llama 2 模型，实现高性能文本生成。
比较 RoBERTa、Llama 2 和 Mistral 在灾难推文分类中的 LoRA 应用
一项比较研究表明，在使用低秩适应（LoRA）进行微调时，较小的 RoBERTa 模型在灾难推文的二分类任务中优于 Llama 2 和 Mistral 7B。
OpenAI 介绍 GPTs
OpenAI 已推出 GPTs，即用户可在无需编码的情况下为特定目的创建的 ChatGPT 自定义版本，使得个人、专业或企业场景下能够构建定制化的 AI 助手。
OpenAI DevDay 2023: GPT-4 Turbo, Assistants API, 以及多模态更新
OpenAI 宣布了具有 128K 上下文窗口的 GPT-4 Turbo、用于构建类 Agent 体验的新 Assistants API，以及包括 DALL·E 3 和 TTS 在内的扩展多模态能力。