OpenAI 特别项目 2016

OpenAI 已确定四个关键问题领域，认为这些是推动 AI 发展及其长期社会影响所必需的。这些优先事项侧重于加强 AI 能力（如自动编程和复杂模拟）以及开发防御措施以应对 AI 系统可能被滥用的情况。

AI 突破检测

OpenAI 旨在开发方法来检测世界上是否正在使用隐蔽的突破性 AI 系统。这源于这样的概率：随着越来越多的组织向 AI 研究投入资源，某个组织可能会取得未公开的突破并部署系统用于恶意目的。提出的检测方法包括监控新闻、金融市场和在线游戏。

自动化编程

OpenAI 正在寻求构建一个能够赢得在线编程竞赛的代理。目标是创建一个能够编写其他程序的程序，OpenAI 将其描述为一种“强大”的能力。

AI 驱动的网络安全防御

OpenAI 优先发展 AI 技术以防御复杂的黑客。公司预计 AI 的早期用途将是突入计算机系统，并寻求创建防御性 AI 方法来对抗那些自身也在使用 AI 方法的黑客。

复杂多智能体模拟

OpenAI 对构建一个包含众多长期存在智能体的大规模模拟感兴趣。目标是创建一个环境，其中智能体可以相互交互、在较长时间内学习、发现语言，并实现各种复杂目标。