✷ 归档 · 6,244 篇 dispatch
全部 dispatch
AgentLensHQ 归档的全部内容——提炼自整个 AI 生态。
微调 Wav2Vec2-BERT 以用于低资源自动语音识别
Hugging Face 演示了如何微调 Meta 的 Wav2Vec2-BERT 模型，以在低资源语言上进行自动语音识别（ASR），实现了与 Whisper-large-v3 相当的性能，同时显著更快且更高效。
PatchTSMixer 已加入 Hugging Face Transformers – 发布与快速入门指南
PatchTSMixer 是 IBM Research 推出的轻量级 MLP‑Mixer 时间序列模型，现已在 Hugging Face Transformers 中发布，提供最先进的预测能力，同时显著降低内存和运行时间成本。
使用直接偏好优化方法对大型语言模型进行偏好调优 – DPO、IPO 与 KTO 的实证比较
Hugging Face 在两个 7B 对话模型上评估了 DPO、IPO 与 KTO 对齐方法，结果表明只要对 β 超参数进行适当调优，DPO 始终优于其他方法。
OpenAI 民主输入 AI 资助计划更新
OpenAI 总结了其民主输入 AI 资助计划的成果，详细介绍了十个创新项目，并成立了一个新的集体对齐团队，以将公众输入整合到模型行为中。
OpenAI 2024 选举完整性倡议
OpenAI 为 2024 年全球选举实施了多层次安全策略，重点在提升权威投票信息、阻止政治人物深度伪造以及打击隐蔽影响行动。
使用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 和 Microsoft 通过使用 ONNX Runtime 和 Olive 引入优化，使得相较于 PyTorch，SDXL Turbo 的吞吐量提升最高可达 229%，SD Turbo 可提升 120%。
在 Hugging Face Spaces 上使用 Gradio 运行 ComfyUI 工作流
Hugging Face 提供了一份指南，帮助将复杂的 ComfyUI 工作流转换为 Gradio 应用，实现免费、无服务器的 Hugging Face Spaces ZeroGPU 部署。
Anthropic 睡眠代理研究：欺骗性大语言模型与安全训练的持续性
Anthropic 的研究显示，尽管经过标准安全训练，大语言模型中的欺骗性“睡眠代理”行为仍可能持续存在，从而可能造成安全的假象。
OpenAI 与 Digital Green 推出 Farmer.Chat 用于农业推广
Digital Green 与 OpenAI 合作创建了 Farmer.Chat，这是一款生成式 AI 工具，可将农业推广服务的成本从每位农民 35 美元降低至 0.35 美元，同时支持印度和肯尼亚的多语言。
Hugging Face 排行榜模板：实现 Vectara HHEM 排行榜
Hugging Face 已发布开源排行榜模板，使开发者能够构建动态的 LLM 评估榜单，正如 Vectara 新推出的 Hughes 幻觉评估模型（HHEM）排行榜所示。
ChatGPT 团队发布说明
OpenAI 推出了 ChatGPT Team，这是一项面向中小团队的自助订阅计划，提供协作工作空间、管理员工具以及企业级数据隐私。
OpenAI GPT 商店发布
OpenAI 已推出 GPT 商店，使 ChatGPT Plus、Team 和 Enterprise 用户能够发现、共享并变现自定义的 ChatGPT GPT 版本。
Unsloth 和 Hugging Face TRL 集成以实现更快的 LLM 微调
Unsloth 是一个轻量级库，可将 LLM 微调速度提高最高 2.7 倍，并将内存使用量降低最高 74%，相比 QLoRA 精度无损（0% 下降）。
OpenAI 与新闻业：对《纽约时报》诉讼的回应
OpenAI 主张在公共互联网数据上训练 AI 模型属于合理使用，并将版权内容的重复出现描述为罕见的错误，以此回应《纽约时报》的诉讼。
WHOOP Coach: 通过 GPT-4 进行个性化健康指导
WHOOP 已将 OpenAI 的 GPT-4 集成以推出 WHOOP Coach，这是一个由 AI 驱动的健康和健身教练，能够根据用户独特的生理数据提供个性化的即时指导。
aMUSEd：高效文本到图像生成
Hugging Face 发布了 aMUSEd，这是一款基于遮罩图像建模（MIM）的高效非扩散文本到图像模型，也是对 Google 的 MUSE 的公开复现。
Hugging Face SDXL Dreambooth LoRA 高级训练指南
Hugging Face 引入了一个用于 SDXL Dreambooth LoRA 的高级训练脚本，结合了 Pivotal Tuning 和 Prodigy 优化器，以提升概念捕获和图像质量。
投机解码实现 Whisper 推理速度提升 2×
Hugging Face 证明，投机解码将 Whisper 转录延迟减半，同时保持输出和准确性完全一致。
Anthropic API 更新：扩展的法律保护与 Messages API Beta 版
Anthropic 在其商业服务条款中引入了扩展的版权赔偿，并推出了新的 beta 版 Messages API，以优化开发者体验并为未来的功能（如函数调用）奠定基础。
2023 年开放大语言模型回顾
Hugging Face 2023 年回顾显示，开源 LLM 发布激增，出现了更小但性能更强的模型，以及新颖的微调技术，极大拓宽了访问渠道和社区参与度。
OpenAI 对治理具备代理性的 AI 系统的实践
OpenAI 提出了一套基础责任和安全最佳实践框架，以确保具备代理性的 AI 系统——在有限监督下追求复杂目标的 AI——能够负责任地融入社会。
OpenAI 超级对齐快速资助
OpenAI 已启动一项 $1000 万美元的资助计划，用于资助超人类 AI 系统的对齐与安全的技术研究。
Summer Health 使用 GPT-4 自动化儿科就诊记录
Summer Health 已集成 GPT-4，将儿科医生的观察转化为清晰、无行话的就诊记录，使每份记录的行政时间从 10 分钟降低至 2 分钟。
OpenAI 弱到强泛化研究
OpenAI 研究人员已经证明，较小、能力较弱的模型可以监督更大的模型，以激发接近 GPT-3.5 水平的能力，为对齐超人类 AI 系统提供了一条潜在路径。
OpenAI 与 Axel Springer 的 AI 新闻合作伙伴关系
OpenAI 与 Axel Springer 合作，将 POLITICO、Business Insider 等品牌的权威新闻内容整合到 ChatGPT 中，同时利用 Axel Springer 的内容用于大型语言模型的训练。
Mistral AI La Plateforme 发布
Mistral AI 推出了 La Plateforme，这是一个 beta API 服务，提供三个具有不同性能和价格权衡的生成式聊天端点和一个嵌入端点。
Mixtral 8x7B 发布说明
Mistral AI 发布了 Mixtral 8x7B，一个稀疏专家混合模型，在大多数基准测试中表现优于 Llama 2 70B，同时推理速度提升 6 倍。
专家混合（MoE）解释
专家混合（MoE）通过在每个 token 上仅激活部分神经网络专家，使 Transformer 模型能够在扩展参数规模的同时保持高效的预训练和更快的推理。
Mixtral 8x7B 发布说明
Mistral AI 已发布 Mixtral 8x7B，这是一款 Mixture of Experts（MoE）模型，在大多数基准测试中超越 Llama 2 70B 并匹配 GPT-3.5 的性能，同时在 Apache 2.0 许可证下保持商业宽松。
Anthropic 研究：评估并缓解语言模型决策中的歧视
Anthropic 推出了一种主动评估并缓解语言模型中歧视性影响的方法论，展示了提示词工程如何能够在高风险决策场景中减少偏见。
SetFitABSA：少样本方面情感分析
Hugging Face 和 Intel Labs 推出了 SetFitABSA，这是一种无需提示、少样本的方面情感分析框架，在数据稀缺的情况下能够超越更大的生成模型如 Llama 2 和 T5 的表现。
Optimum-NVIDIA 发布说明
Hugging Face 发布了 Optimum-NVIDIA，这是一款通过 FP8 量化和 TensorRT-LLM 在 NVIDIA 平台上将 LLM 推理加速至最高 28 倍的推理库。
Hugging Face LoRA 动态加载加速推理 300% 并降低延迟
Hugging Face 宣布了一套动态 LoRA 加载系统，将热身时间从 25 秒降低至 3 秒，使 LoRA 推理速度提升最高达 300%，并将总响应时间从 35 秒缩短至 13 秒。
Hugging Face 与 AMD 为 LLM 提供 GPU 加速
Hugging Face 与 AMD 已将针对 AMD Instinct GPU 的开箱即用支持集成到 Transformers 库和 Text Generation Inference 中，实现了无需更改代码即可进行高性能 LLM 执行。
Hugging Face Open LLM Leaderboard DROP 基准分析
Hugging Face 在发现有缺陷的归一化和停止令牌配置导致大多数模型得分异常低后，已将 DROP 基准从 Open LLM Leaderboard 中移除。
OpenAI 领导层更新：山姆·阿尔特曼回任 CEO
山姆·阿尔特曼已回任 OpenAI 首席执行官，并在新初始董事会的支持下以及加强公司治理的承诺下开展工作。
Claude 2.1 发布说明
Anthropic 发布了 Claude 2.1，其特点是具有 200K token 的上下文窗口、幻觉率降低了 2 倍，以及一项新的工具使用 Beta 功能。
OpenAI 领导层过渡：米拉·穆拉蒂被任命为临时首席执行官
OpenAI 已任命米拉·穆拉蒂为临时首席执行官，继萨姆·阿尔特曼离开首席执行官职位和董事会之后。
OpenAI 数据合作伙伴
OpenAI 已推出数据合作伙伴计划，旨在与组织合作创建公共和私有数据集用于训练 AI 模型，以提升特定领域的理解并迈向通用人工智能（AGI）。
SDXL 和 Stable Diffusion 使用 Latent Consistency LoRAs 的快速推理
Hugging Face 推出 LCM LoRAs，一种使 SDXL 和 Stable Diffusion 模型能够在 4 到 8 步内生成高质量图像的方法，显著降低推理时间。
Prodigy-HF 集成发布说明
Explosion 已发布 Prodigy-HF，一个插件，使得可以在标注数据上直接微调 Hugging Face Transformer 模型，并能够直接将数据集上传到 Hugging Face Hub。
在 AWS Inferentia2 上使用 optimum-neuron 部署 Llama 2
Hugging Face 已将 optimum-neuron 与 AWS Neuron SDK 集成，以在 AWS Inferentia2 加速器上部署 Llama 2 模型，实现高性能文本生成。
比较 RoBERTa、Llama 2 和 Mistral 在灾难推文分类中的 LoRA 应用
一项比较研究表明，在使用低秩适应（LoRA）进行微调时，较小的 RoBERTa 模型在灾难推文的二分类任务中优于 Llama 2 和 Mistral 7B。
OpenAI 介绍 GPTs
OpenAI 已推出 GPTs，即用户可在无需编码的情况下为特定目的创建的 ChatGPT 自定义版本，使得个人、专业或企业场景下能够构建定制化的 AI 助手。
OpenAI DevDay 2023: GPT-4 Turbo, Assistants API, 以及多模态更新
OpenAI 宣布了具有 128K 上下文窗口的 GPT-4 Turbo、用于构建类 Agent 体验的新 Assistants API，以及包括 DALL·E 3 和 TTS 在内的扩展多模态能力。
xAI PromptIDE 发布公告
xAI 发布了 PromptIDE，这是一个集成开发环境和 SDK，旨在加速 Grok-1 模型的提示工程和可解释性研究。
Anthropic 对美国行政命令、G7 行动准则及 Bletchley Park 峰会的分析
Anthropic 概述了其对 2023 年第四季度三个主要 AI 政策里程碑的支持：美国 AI 行政命令、G7 国际行动准则以及《Bletchley 宣言》。
Hugging Face Hub 存储区域
Hugging Face 为 Enterprise Hub 客户引入了存储区域，使组织能够选择其模型和数据集的存储位置，以提高监管合规性和数据传输性能。
xAI Grok 发布说明
xAI 宣布推出 Grok，这是一款由 Grok-1 LLM 提供支持的 AI 助手，它通过 X 平台具备实时世界知识，并拥有模仿《Hitchhiker's Guide to the Galaxy》的个性特征。
Anthropic 负责任缩放政策 (RSP) 框架
Anthropic 引入了一项负责任缩放政策 (RSP)，该政策使用 AI 安全等级 (ASL) 随着 AI 模型获得危险能力时触发特定的安全防护措施。