降低偏见并提升 DALL·E 2 的安全性
OpenAI 为 DALL·E 2 实施了一种系统级技术，以提升生成人物的多样性，并加强了安全过滤器以防止创建欺骗性内容。
DALL·E 2：拓展创意
OpenAI 的 DALL·E 2 研究预览已被来自 118 个国家的超过 3,000 位艺术家采用，将 AI 生成的图像整合到从医疗支持到高端烹饪艺术等多元创意工作流程中。
DALL·E 2 预训练缓解措施
OpenAI 实施了主动学习用于数据过滤、重新加权方案防止偏见放大，以及基于聚类的去重流程，以消除 DALL·E 2 中的图像复制问题。
OpenAI 视频预训练（VPT）用于 Minecraft
OpenAI 引入了视频预训练（VPT），一种半监督模仿学习方法，使代理能够通过在大规模未标记的人类游戏视频上训练，在 Minecraft 中学习复杂行为。
OpenAI 大模型进化（ELM）研究
OpenAI 推出大模型进化（ELM），一种利用大型语言模型（LLM）通过模拟人类式代码变异来改进遗传编程，从而在新领域生成功能性程序的方法。
AI 编写的批评帮助人类注意到缺陷
OpenAI 的研究表明，AI 生成的批评帮助人类评估者显著识别出更多摘要中的缺陷，暗示了一条可扩展的人类监督复杂 AI 任务的路径。
OpenAI 大型神经网络训练技术
OpenAI 概述了主要的并行策略——数据并行、流水线并行、张量并行和专家并行——以及用于在 GPU 集群上训练大规模 AI 模型的内存节省技术。
OpenAI、Cohere 和 AI21 Labs 部署语言模型的最佳实践
OpenAI、Cohere 和 AI21 Labs 发布了一套联合的初步最佳实践，旨在负责任地开发和部署大型语言模型，以降低风险并防止滥用。
OpenAI 研究：教模型用文字表达不确定性
OpenAI 研究人员展示了 GPT-3 可以在不依赖模型 logits 的情况下，通过自然语言表达其答案的校准不确定性。
OpenAI Codex 应用与集成
OpenAI Codex 是基于 GPT-3 的自然语言转代码系统，支持超过 70 个应用，包括 GitHub Copilot，通过将英文指令转换为代码来提升开发者的生产力。
OpenAI DALL·E 2 研究预览更新
OpenAI 正在以每周 1,000 人的速度向等候名单用户扩大 DALL·E 2 的访问权限，此前的有限研究预览已生成超过 300 万张图像。
OpenAI 领导团队更新
OpenAI 宣布了 Greg Brockman、Brad Lightcap、Mira Murati 和 Chris Clark 的执行职务变动，以使领导层与公司的增长和战略里程碑保持一致。
衡量 AI 对齐中的古德哈特定律
OpenAI 探讨了在 AI 模型中优化代理目标如何导致真实目标性能下降，这一现象被称为古德哈特定律，并提出将 best-of-n 采样作为分析方法。
层次化文本条件图像生成与 CLIP 潜在向量
OpenAI 推出了一种两阶段生成模型，使用先验从文本生成 CLIP 图像嵌入，再通过解码器从这些嵌入生成图像，从而提升了多样性并实现了零样本图像操作。
OpenAI 解决数学应用题与 GSM8K 数据集
OpenAI 开发了一套使用训练过的验证器来解决小学数学应用题的系统，其准确率几乎是经过微调的 GPT-3 的两倍，实现了 55% 的准确率，而 9-12 岁儿童的准确率为 60%。
OpenAI 通过人类反馈对书籍进行总结 (2021)
OpenAI 提出了一种技术，该技术将人类反馈的强化学习与递归任务分解相结合，以生成整本书的摘要，从而解决了在难以评估的任务上监督人工智能的对齐挑战。
评估在代码上训练的大语言模型：OpenAI Codex
OpenAI 推出了 Codex，这是一个在 GitHub 代码上进行微调的 GPT 模型，它在单次尝试中解决了 28.8% 的 HumanEval 问题，通过重复采样，成功率可达 70.2%。
OpenAI 学者计划 2021：最终项目
OpenAI 公布了 2021 年学者计划的最终项目，展示了来自多元化研究者群体的规模定律、奖励建模和强化学习等方向的研究。
Will Hurd 加入 OpenAI 董事会
OpenAI 任命前美国国会议员 Will Hurd 加入其董事会，以将公共政策专业知识与技术 AI 开发相结合。
GPT-3 API 生态系统与应用增长
OpenAI 报告称，超过 300 个应用和数万名开发者正在使用 GPT-3 在各行各业每天生成平均 45 亿个单词。
CLIP 中的多模态神经元
OpenAI 在 CLIP 中发现了神经元，无论概念是以字面、符号还是概念形式呈现，这些神经元都会对同一概念做出响应，这反映了人类大脑中的多模态神经元。
理解大语言模型的能力、局限性及其社会影响
OpenAI 总结了一场多学科研讨会，探讨了与 GPT-3 及其他大语言模型相关的技术边界和社会风险。
OpenAI 将 Kubernetes 扩展至 7,500 个节点
OpenAI 将单个 Kubernetes 集群扩展至 7,500 个节点，为机器学习研究提供了一个简单且可扩展的基础设施，并克服了网络、API server 负载和监控方面的挑战。
CLIP: 连接文本与图像
OpenAI 推出了 CLIP，这是一种通过自然语言监督来学习视觉概念的神经网络，从而能够在各种不同数据集上实现 zero-shot 图像分类。
DALL·E: 从文本创建图像
OpenAI 推出了 DALL·E，这是一个拥有 120 亿参数的 transformer 模型，通过将图像和文本视为单一的 token 流，能够从文本描述中生成多样化的图像。
OpenAI 组织架构更新 2020年12月
OpenAI 宣布了研究副总裁 Dario Amodei 的离职，并任命 Mira Murati 为研究、产品和合作伙伴高级副总裁，以更好地整合安全与产品开发。
OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 已将其 GPT-3 语言模型技术授权给 Microsoft，以便集成到 Microsoft 的产品和服务中，同时为第三方开发者保留了独立的 API 访问权限。
生成式语言建模用于自动定理证明
OpenAI 推出 GPT-f，这是一种基于 Transformer 的语言模型，专为 Metamath 形式化语言设计，成功向主 Metamath 库贡献了新证明。
从人类反馈中学习摘要生成
OpenAI 表明，基于人类反馈的强化学习（RLHF）使得较小的语言模型在文本摘要任务中能够显著优于仅通过监督学习训练的更大模型。
OpenAI 学者计划 2020 最终项目
OpenAI 公布了 2020 学者计划的最终项目，展示了在神经网络可解释性、强化学习、语义解析和医学 AI 方面的研究成果。
OpenAI Procgen and MineRL 竞赛
OpenAI 正在共同组织两项 NeurIPS 2020 竞赛，使用 Procgen Benchmark 和 MineRL 来推进强化学习的样本效率和泛化能力。
Image GPT
OpenAI 的 Image GPT (iGPT) 证明了在像素序列上训练的 transformer 模型可以生成连贯的图像并学习到具有竞争力的无监督视觉特征，而无需领域特定的架构先验。
OpenAI API 发布
OpenAI 已发布一个通用的文本输入、文本输出 API，提供对 GPT-3 系列模型的访问，以支持开发多样的 AI 驱动应用。
OpenAI GPT-3: 语言模型作为少样本学习者
OpenAI 推出了 GPT-3，一个具有 1750 亿参数的自回归语言模型，在各种 NLP 任务上展示了强大的少样本性能，而无需任务特定的微调。
OpenAI AI 与效率分析
OpenAI 的分析显示，自 2012 年以来，算法进步已使在相同性能水平下训练神经网络所需的计算量每 16 个月减少一半。
OpenAI Jukebox
OpenAI Jukebox 是一种能够生成原始音频音乐（包括初步歌声）的神经网络，可根据流派、艺术家和歌词进行条件控制。
OpenAI: 提高 AI 开发的可验证性
OpenAI 与多机构联盟提出十种机制，旨在帮助利益相关者验证 AI 系统是否遵循所声明的伦理原则和安全标准，以防止竞争中的偷工减料行为。
OpenAI Microscope: 神经网络可解释性工具
OpenAI Microscope 是一个可视化工具，它系统地可视化几种常用视觉模型中的每个神经元，以加速对神经网络逆向工程的研究。
OpenAI 标准化使用 PyTorch
OpenAI 已将其深度学习框架标准化为 PyTorch，以提高研究效率并缩短生成式建模的迭代时间。
OpenAI 神经网络语言模型的缩放定律
OpenAI 研究人员发现，语言模型性能与模型规模、数据集规模和计算量之间遵循可预测的幂律关系，从而能够实现训练资源的最优分配。
OpenAI Five: Dota 2 强化学习
OpenAI Five 是第一个在电竞游戏中击败世界冠军的 AI 系统，证明了大规模自我博弈强化学习可以在复杂、连续的状态-动作空间中实现超人类的表现。
OpenAI 深度双重下降
OpenAI 研究人员证明，CNNs、ResNets 和 transformers 表现出双重下降现象，即随着模型大小、数据大小或训练时间的增加，性能会提高、下降，然后再次提高。
OpenAI Procgen Benchmark 发布
OpenAI 发布了 Procgen Benchmark，这是一套包含 16 个程序化生成环境的套件，旨在衡量强化学习智能体将技能泛化到未见过的关卡的能力。
OpenAI 在深度强化学习中对安全探索进行基准测试
OpenAI 推出了 Safety Gym 基准测试套件，旨在将受限强化学习标准化为高维连续控制环境中安全探索的主要形式化方法。
OpenAI Safety Gym 发布
OpenAI 发布了 Safety Gym，这是一套旨在衡量和提高强化学习智能体在训练过程中遵守安全约束能力的工具和环境套件。
GPT-2 1.5B 发布说明
OpenAI 已发布了拥有 15 亿参数的最大版本 GPT-2，完成了其分阶段发布过程，为负责任的 AI 发布提供了一个案例研究。
OpenAI 使用机器人手解决魔方
OpenAI 训练了一对神经网络，利用一种称为 Automatic Domain Randomization (ADR) 的新技术，使用类人机器人手解决魔方，并将模拟中学习到的技能转移到物理世界。
OpenAI Scholars 2020 项目申请
OpenAI 已开放其第三期 OpenAI Scholars 项目的申请，这是一个为期四个月的项目，向来自代表性不足群体的八个人提供津贴和指导，以学习深度学习。
微调 GPT-2 以适应人类偏好
OpenAI 使用人类反馈对 774M 参数的 GPT-2 模型进行微调，以改善风格化文本续写和摘要，发现人类标注者通常更倾向于准确复制而非新颖合成。
OpenAI 通过多智能体交互实现涌现式工具使用
OpenAI 研究人员发现，通过多智能体协同适应和 self-play，在模拟的捉迷藏游戏中，智能体开发出了六个不同层级的复杂工具使用和策略。