前沿模型论坛公告
OpenAI、Google、Microsoft 和 Anthropic 已启动前沿模型论坛,以协调前沿 AI 模型开发的安全标准、研究和信息共享。
OpenAI AI治理承诺
OpenAI 已承诺建立一个框架,包括内部和外部红队演练、信息共享、AI 生成内容识别以及对模型能力和社会风险的透明报告。
ChatGPT 自定义指令发布
OpenAI 已为 ChatGPT 引入了自定义指令,使用户能够设置持久的偏好和需求,模型将在所有未来对话中考虑这些设置。
OpenAI 与美国新闻项目合作以支持本地新闻
OpenAI 通过承诺提供 1000 万美元的资金和 API 积分,与美国新闻项目(AJP)建立合作伙伴关系,以探索 AI 如何增强本地新闻并对抗错误信息。
使用 Viable 和 GPT-4 分析大规模定性数据
Viable 利用经过微调的 GPT-4 模型,超越简单摘要,提供准确的大规模定性数据分析以获得业务洞察。
OpenAI 前沿 AI 监管提案
OpenAI 和一个多学科研究者小组提出了一种监管框架,用于通过标准制定、注册和合规机制来管理前沿 AI 模型的公共安全风险。
OpenAI 全球对话:洞察与战略重点领域
OpenAI 在 25 座城市和 6 大洲进行了全球倾听之旅,以收集用户、开发者和政策制定者的反馈,以完善其 AI 开发和部署策略。
OpenAI伦敦办公室开幕
OpenAI 在伦敦开设了其首个国际办事处,以扩大其研发足迹并吸引全球人才,以发展安全的 AGI。
OpenAI 函数调用和 API 更新
OpenAI 为 gpt-4-0613 和 gpt-3.5-turbo-0613 引入了函数调用,使模型能够输出结构化 JSON 以用于外部工具和 API 集成。
OpenAI网络安全资助计划
OpenAI 已启动 $1M 的网络安全资助计划,以赋能防御者并量化 AI 在网络安全中的作用,随后随着 GPT-5.3-Codex 的发布,演变为包含 额外 $10M 的 API 积分和面向网络的可信访问。
OpenAI 通过过程监督改进数学推理
OpenAI 通过奖励每一步正确的推理(过程监督)而不仅仅是最终答案(结果监督)来改进数学问题求解的方法,从而实现了最先进的性能和更好的 AI 对齐。
OpenAI 民主输入 AI 计划
OpenAI 启动了一项资助计划,资助十项每项 100,000 美元的实验,旨在开发用于决定 AI 系统应遵循规则的民主程序。
OpenAI 超级智能治理提案
OpenAI 提出一个由国际协调、类似 IAEA 的全球监管机构以及先进安全研究组成的三大支柱框架,以管理超级智能。
OpenAI 使用 GPT‑4 发布 GPT‑2 自动神经元解释数据集
OpenAI 宣布了一种使用 GPT‑4 为 GPT‑2 中每个神经元生成并评分自然语言解释的方法,并向研究社区发布了相应的数据集、查看器和代码。
OpenAI 为 ChatGPT 引入全新数据管理控制
OpenAI 引入了一项新设置,可禁用聊天历史以防止在用户对话上进行模型训练,同时计划推出 ChatGPT Business 订阅和全新数据导出工具。
OpenAI 漏洞赏金计划公告
OpenAI 与 Bugcrowd 合作推出了漏洞赏金计划,以奖励安全研究人员发现并修复其系统中的漏洞。
OpenAI 对 AI 安全的方案
OpenAI 采用多层次的安全策略,结合严格的部署前测试、迭代的真实世界部署以及持续的对齐研究,以降低强大 AI 系统带来的风险。
OpenAI 3月20日 ChatGPT 中断与数据泄露分析
OpenAI 于 2023 年 3 月 20 日因开源库中的漏洞将 ChatGPT 下线,该漏洞导致部分活跃的 ChatGPT Plus 订阅者的聊天标题和付款信息被泄露。
ChatGPT 插件发布
OpenAI 为 ChatGPT 引入了插件,使模型能够访问实时信息、执行计算并与第三方服务集成,以扩展其功能并减少幻觉。
GPT即GPT:大型语言模型对劳动力市场的影响
OpenAI的研究表明,约80%的美国劳动力可能至少有10%的工作任务受到大型语言模型的影响,使其成为通用技术。
OpenAI GPT-4 公告及功能概述
OpenAI 宣布推出 GPT‑4,这款大型多模态模型在众多专业基准上实现了人类水平的表现,并已通过 ChatGPT、API 候补名单以及开源评估工具向外部提供。
OpenAI 宣布为 Be My Eyes 推出基于 GPT‑4 的虚拟志愿者
OpenAI 将 GPT‑4 的视觉输入功能集成到 Be My Eyes 应用中,创建了一个能够描述、分析并就图像进行对话的虚拟志愿者,显著提升了盲人和低视力用户的视觉可访问性。
Stripe GPT-4 集成案例研究
Stripe 在其平台上集成了 GPT-4,以自动化业务概述、通过文档分析提升开发者支持,并改进社区论坛的欺诈检测。
Duolingo 整合 GPT-4 以实现高级语言学习
Duolingo 推出了 Duolingo Max,这一全新订阅层级提供基于 GPT-4 的角色扮演和“解释我的答案”功能,以实现沉浸式对话练习和情境语法反馈。
可汗学院整合 GPT-4 为 Khanmigo AI 助手提供动力
可汗学院正在试点 Khanmigo,这是一款由 GPT-4 驱动的 AI 导师和教师助理,旨在提供个性化学习和教学支持。
OpenAI 与冰岛政府合作,保护冰岛语
OpenAI 已与冰岛政府及私营企业合作,利用 GPT-4 和强化学习人类反馈(RLHF)在数字时代保护冰岛语。
OpenAI 对 AGI 及其未来的规划
OpenAI 概述了一项逐步部署 AI 系统的策略,以便社会能够适应,强调需要加强对齐研究、全球治理以及对生存风险的审慎态度。
OpenAI AI 系统行为与治理框架
OpenAI 概述了一个两步训练过程来塑造 ChatGPT 的行为,并提出了一个三支柱策略,以改进默认设置、实现用户定制,并将公众意见纳入 AI 治理。
ChatGPT Plus 发布
OpenAI 宣布推出 ChatGPT Plus,这是一项每月 20 美元的订阅服务,保证在高峰时段的访问、更快的响应以及优先功能推送,并将其可用性扩展至全球。
OpenAI AI 文本分类器发布(2023 年 1 月)
OpenAI 于 2023 年 1 月发布了公开的 AI 文本分类器,用于标记可能的 AI 生成英文文本,但其可靠性不足——仅识别出 26% 的 AI 文本,并误标 9% 的人类文本。
OpenAI 与微软扩展战略合作伙伴关系
OpenAI 与微软已延长其多年、数十亿美元的合作伙伴关系,以加速独立的 AI 研究并通过 Azure 扩大 AI 模型的部署。
预测语言模型在错误信息宣传活动中的滥用
OpenAI、乔治城大学和斯坦福互联网观察站发布了一份报告,分析大型语言模型如何降低错误信息宣传活动的成本并扩大规模,并提出了一个四阶段的缓解框架。
Yabble GPT-3 集成用于客户反馈分析
Yabble 集成了 OpenAI 的 GPT-3,将分析复杂客户反馈数据集所需的时间从数周缩短至数分钟。
Waymark 对 GPT-3 进行微调以创建视频脚本
Waymark 集成了微调的 GPT-3 模型,以自动化创建定制的高质量视频广告脚本,减少客户的编辑时间并实现视频制作的规模化。
OpenAI 创建下一代角色公告
针对创建下一代角色的公告所提供的源材料因 404 错误而不可用,未提供任何技术细节或官方声明。
OpenAI Applied AI Research:关于 AGI、安全性和持续学习的观点
OpenAI Applied AI Research 团队的 Lilian Weng 讨论了通往 AGI 的路径、模型对齐与安全性的重要性,以及持续学习在 AI 开发中的作用。
OpenAI Point-E:从文本提示生成 3D 点云
OpenAI 推出了 Point-E,这是一套在单个 GPU 上用 1-2 分钟从复杂文本提示生成 3D 点云的系统,优先考虑采样速度而非绝对的样本质量。
OpenAI text-embedding-ada-002 发布
OpenAI 宣布了 text-embedding-ada-002 模型,这是一款统一的、更快、更便宜的嵌入模型,在大多数任务上优于之前的模型。
OpenAI 超算基础设施与后端系统工程
OpenAI 工程师 Jake Stangel 描述了管理价值数十亿美元的超算集群所面临的技术挑战,在极端规模下会暴露出其他用户未曾见过的硬件和内核问题。
OpenAI 推出 ChatGPT
OpenAI 已发布基于 GPT-3.5 系列的会话式 AI 模型 ChatGPT,该模型通过人类反馈强化学习(RLHF)进行训练,以对话形式进行交互。
OpenAI DALL·E API 公测公告
OpenAI 宣布 DALL·E 图像生成 API 现已进入公测,开发者可以将最先进的图像创作和内置审核功能集成到他们的应用中。
OpenAI 奖励模型过度优化的尺度定律
OpenAI 发现,对不完美的代理奖励模型进行优化最终会削弱真实表现,并遵循基于模型参数和数据集规模的可预测尺度定律。
OpenAI DALL·E Beta 现已无需等待名单
OpenAI 已取消 DALL·E Beta 的等待名单,用户可立即注册,系统目前支持超过 150 万用户,每天生成超过 200 万张图像。
OpenAI Whisper 发布
OpenAI 已发布 Whisper,这是一款自动语音识别(ASR)系统,经过 680,000 小时的多语言和多任务监督数据训练,以提升对口音、噪声和语言的鲁棒性。
DALL·E Outpainting 功能发布
OpenAI 为 DALL·E 推出了 Outpainting,使用户能够使用自然语言描述在保持视觉一致性的前提下,将图像扩展到原始边界之外。
OpenAI 宣布使用人类反馈强化学习和 InstructGPT 的对齐策略
OpenAI 详细阐述了其对齐方法,强调人类反馈强化学习和 InstructGPT 是实现语言模型遵循人类意图的有效、低成本手段,同时承认当前的局限性并展望 AI 驱动的对齐研究的未来目标。
OpenAI 内容审核端点发布
OpenAI 发布了免费内容审核端点,提供基于 GPT 的分类器,帮助开发者在其应用中检测并阻止违规内容。
OpenAI 宣布高效的填充中间(Fill-in-the-Middle)语言模型训练方法
OpenAI 发布了一种新训练方法,使自回归语言模型能够执行填充中间任务而不牺牲从左到右的生成质量,提供了一种简单高效的方式来添加填充能力。
代码合成大型语言模型的危害分析框架
OpenAI 引入了一套危害分析框架,以识别并缓解与部署诸如 Codex 等先进代码生成模型相关的技术、社会、政治和经济风险。
OpenAI DALL·E 测试版发布
OpenAI 宣布 DALL·E 现已向 100 万受邀用户开放测试版,提供免费月度积分和商业使用权。