✷ 归档 · 11 个实验室 · 1,214 篇 dispatch
实验室
不用每天手动刷十几个官方博客。OpenAI、Anthropic、DeepMind 等实验室的一手发布，每篇都提炼出核心内容。
DALL·E Outpainting 功能发布
OpenAI 为 DALL·E 推出了 Outpainting，使用户能够使用自然语言描述在保持视觉一致性的前提下，将图像扩展到原始边界之外。
OpenAI 宣布使用人类反馈强化学习和 InstructGPT 的对齐策略
OpenAI 详细阐述了其对齐方法，强调人类反馈强化学习和 InstructGPT 是实现语言模型遵循人类意图的有效、低成本手段，同时承认当前的局限性并展望 AI 驱动的对齐研究的未来目标。
OpenAI 内容审核端点发布
OpenAI 发布了免费内容审核端点，提供基于 GPT 的分类器，帮助开发者在其应用中检测并阻止违规内容。
OpenAI 宣布高效的填充中间（Fill-in-the-Middle）语言模型训练方法
OpenAI 发布了一种新训练方法，使自回归语言模型能够执行填充中间任务而不牺牲从左到右的生成质量，提供了一种简单高效的方式来添加填充能力。
代码合成大型语言模型的危害分析框架
OpenAI 引入了一套危害分析框架，以识别并缓解与部署诸如 Codex 等先进代码生成模型相关的技术、社会、政治和经济风险。
OpenAI DALL·E 测试版发布
OpenAI 宣布 DALL·E 现已向 100 万受邀用户开放测试版，提供免费月度积分和商业使用权。
降低偏见并提升 DALL·E 2 的安全性
OpenAI 为 DALL·E 2 实施了一种系统级技术，以提升生成人物的多样性，并加强了安全过滤器以防止创建欺骗性内容。
DALL·E 2：拓展创意
OpenAI 的 DALL·E 2 研究预览已被来自 118 个国家的超过 3,000 位艺术家采用，将 AI 生成的图像整合到从医疗支持到高端烹饪艺术等多元创意工作流程中。
DALL·E 2 预训练缓解措施
OpenAI 实施了主动学习用于数据过滤、重新加权方案防止偏见放大，以及基于聚类的去重流程，以消除 DALL·E 2 中的图像复制问题。
OpenAI 视频预训练（VPT）用于 Minecraft
OpenAI 引入了视频预训练（VPT），一种半监督模仿学习方法，使代理能够通过在大规模未标记的人类游戏视频上训练，在 Minecraft 中学习复杂行为。
OpenAI 大模型进化（ELM）研究
OpenAI 推出大模型进化（ELM），一种利用大型语言模型（LLM）通过模拟人类式代码变异来改进遗传编程，从而在新领域生成功能性程序的方法。
AI 编写的批评帮助人类注意到缺陷
OpenAI 的研究表明，AI 生成的批评帮助人类评估者显著识别出更多摘要中的缺陷，暗示了一条可扩展的人类监督复杂 AI 任务的路径。
OpenAI 大型神经网络训练技术
OpenAI 概述了主要的并行策略——数据并行、流水线并行、张量并行和专家并行——以及用于在 GPU 集群上训练大规模 AI 模型的内存节省技术。
OpenAI、Cohere 和 AI21 Labs 部署语言模型的最佳实践
OpenAI、Cohere 和 AI21 Labs 发布了一套联合的初步最佳实践，旨在负责任地开发和部署大型语言模型，以降低风险并防止滥用。
OpenAI 研究：教模型用文字表达不确定性
OpenAI 研究人员展示了 GPT-3 可以在不依赖模型 logits 的情况下，通过自然语言表达其答案的校准不确定性。
OpenAI Codex 应用与集成
OpenAI Codex 是基于 GPT-3 的自然语言转代码系统，支持超过 70 个应用，包括 GitHub Copilot，通过将英文指令转换为代码来提升开发者的生产力。
OpenAI DALL·E 2 研究预览更新
OpenAI 正在以每周 1,000 人的速度向等候名单用户扩大 DALL·E 2 的访问权限，此前的有限研究预览已生成超过 300 万张图像。
OpenAI 领导团队更新
OpenAI 宣布了 Greg Brockman、Brad Lightcap、Mira Murati 和 Chris Clark 的执行职务变动，以使领导层与公司的增长和战略里程碑保持一致。
衡量 AI 对齐中的古德哈特定律
OpenAI 探讨了在 AI 模型中优化代理目标如何导致真实目标性能下降，这一现象被称为古德哈特定律，并提出将 best-of-n 采样作为分析方法。
层次化文本条件图像生成与 CLIP 潜在向量
OpenAI 推出了一种两阶段生成模型，使用先验从文本生成 CLIP 图像嵌入，再通过解码器从这些嵌入生成图像，从而提升了多样性并实现了零样本图像操作。
GPT-3 和 Codex 的编辑与插入功能
OpenAI 发布了 GPT-3 和 Codex 的新版本，它们可以编辑现有文本并在文档中间插入内容，超越了简单的文本补全。
OpenAI 经济影响研究计划
OpenAI 已向研究人员和公司发出征集意向书的通知，以研究 GPT-3、ChatGPT 和 DALL-E 2 等大型语言模型的经济影响。
OpenAI 代码生成模型经济影响研究议程
OpenAI 提出了一个研究议程，旨在研究像 Codex 这样的代码生成模型如何影响生产力、就业和经济不平等，从而为部署、系统设计和公共政策提供参考。
OpenAI 关于语言模型安全与滥用的经验教训
OpenAI 分享了从部署 GPT-3 和 Codex 中获得的见解，强调实际滥用往往与理论风险不同，并且安全研究经常能提升商业价值。
OpenAI 形式化数学奥林匹克竞赛问题求解
OpenAI 展示了其模型使用形式化证明助手解决来自 AMC12、AIME 和 IMO 等竞赛的形式化数学奥林匹克竞赛问题的能力。
OpenAI InstructGPT：使语言模型符合指令要求
OpenAI 推出了 InstructGPT，这是一系列通过人类反馈强化学习 (RLHF) 训练的模型，与 GPT-3 相比，它们能更好地遵循用户意图，增加真实性并减少毒性。
OpenAI 文本与代码嵌入发布
OpenAI 发布了一套基于 GPT-3 后代模型的新型嵌入模型，通过提供文本和代码的数值表示，来改进语义搜索、聚类和代码检索。
OpenAI 文本和代码嵌入通过对比预训练
OpenAI 通过在无监督数据上进行大规模对比预训练，开发了一种生成高质量文本和代码嵌入的方法，在线性探测分类和语义搜索中实现了最先进的结果。
WebGPT: 通过 Web 浏览提高 GPT-3 的事实准确性
OpenAI 将 GPT-3 微调为 WebGPT，这是一个使用基于文本的 Web 浏览器进行研究并引用来源的原型，从而减少了在回答开放式问题时的幻觉现象。
为您的应用定制 GPT-3
OpenAI 发布了 GPT-3 的微调功能，允许开发者在私有数据上训练模型，以提高可靠性、降低成本并改善延迟。
OpenAI Residency Program Announcement
OpenAI推出了OpenAI Residency，这是一个为期六个月的有薪项目，旨在将来自其他领域的研究人员和工程师转型为公司内的全职AI角色。
OpenAI API Access: GPT-3 Waitlist Removed
OpenAI 已移除 GPT-3 API 的候补名单，允许支持国家的开发者立即注册并开始尝试。
OpenAI 解决数学应用题与 GSM8K 数据集
OpenAI 开发了一套使用训练过的验证器来解决小学数学应用题的系统，其准确率几乎是经过微调的 GPT-3 的两倍，实现了 55% 的准确率，而 9-12 岁儿童的准确率为 60%。
OpenAI 通过人类反馈对书籍进行总结 (2021)
OpenAI 提出了一种技术，该技术将人类反馈的强化学习与递归任务分解相结合，以生成整本书的摘要，从而解决了在难以评估的任务上监督人工智能的对齐挑战。
TruthfulQA: 衡量模型如何模仿人类的谬误
OpenAI 推出了 TruthfulQA，这是一个旨在衡量语言模型是否在 38 个类别中模仿常见的人类误解和谬误的基准测试。
Helen Toner 加入 OpenAI 董事会
OpenAI 于 2021 年 9 月 8 日任命 AI 政策与全球战略专家 Helen Toner 为其董事会成员，以加强其对安全且负责任的 AI 部署的承诺。
OpenAI Codex: 用于代码生成的 GPT-3 后裔
OpenAI Codex 是 GPT-3 的后裔，它在自然语言和数十亿行公开源代码上进行了训练，能够根据英语指令生成可运行的代码。
OpenAI Triton 1.0 发布
OpenAI 发布了 Triton 1.0，这是一种开源的类 Python 语言和编译器，允许研究人员在无需深厚 CUDA 知识的情况下编写高效的 GPU 内核。
评估在代码上训练的大语言模型：OpenAI Codex
OpenAI 推出了 Codex，这是一个在 GitHub 代码上进行微调的 GPT 模型，它在单次尝试中解决了 28.8% 的 HumanEval 问题，通过重复采样，成功率可达 70.2%。
OpenAI 研究：通过精选数据集微调改进语言模型行为
OpenAI 研究人员发现，通过在少于 100 个样本的精选小规模数据集上进行微调，可以显著提高模型对特定行为价值观的遵循程度，且不会损害下游任务的性能。
OpenAI 学者计划 2021：最终项目
OpenAI 公布了 2021 年学者计划的最终项目，展示了来自多元化研究者群体的规模定律、奖励建模和强化学习等方向的研究。
Will Hurd 加入 OpenAI 董事会
OpenAI 任命前美国国会议员 Will Hurd 加入其董事会，以将公共政策专业知识与技术 AI 开发相结合。
GPT-3 API 生态系统与应用增长
OpenAI 报告称，超过 300 个应用和数万名开发者正在使用 GPT-3 在各行各业每天生成平均 45 亿个单词。
CLIP 中的多模态神经元
OpenAI 在 CLIP 中发现了神经元，无论概念是以字面、符号还是概念形式呈现，这些神经元都会对同一概念做出响应，这反映了人类大脑中的多模态神经元。
理解大语言模型的能力、局限性及其社会影响
OpenAI 总结了一场多学科研讨会，探讨了与 GPT-3 及其他大语言模型相关的技术边界和社会风险。
OpenAI 将 Kubernetes 扩展至 7,500 个节点
OpenAI 将单个 Kubernetes 集群扩展至 7,500 个节点，为机器学习研究提供了一个简单且可扩展的基础设施，并克服了网络、API server 负载和监控方面的挑战。
CLIP: 连接文本与图像
OpenAI 推出了 CLIP，这是一种通过自然语言监督来学习视觉概念的神经网络，从而能够在各种不同数据集上实现 zero-shot 图像分类。
DALL·E: 从文本创建图像
OpenAI 推出了 DALL·E，这是一个拥有 120 亿参数的 transformer 模型，通过将图像和文本视为单一的 token 流，能够从文本描述中生成多样化的图像。
OpenAI 组织架构更新 2020年12月
OpenAI 宣布了研究副总裁 Dario Amodei 的离职，并任命 Mira Murati 为研究、产品和合作伙伴高级副总裁，以更好地整合安全与产品开发。
OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 已将其 GPT-3 语言模型技术授权给 Microsoft，以便集成到 Microsoft 的产品和服务中，同时为第三方开发者保留了独立的 API 访问权限。