OpenAI 특별 프로젝트 2016

OpenAI는 AI의 발전과 장기적인 사회적 영향에 필수적이라고 생각하는 네 가지 핵심 문제 영역을 식별했습니다. 이러한 우선순위는 자동 프로그래밍과 복잡한 시뮬레이션과 같은 AI 역량을 강화하는 것—그리고 AI 시스템의 잠재적 오용에 대한 방어 조치를 개발하는 것의 조합에 중점을 둡니다.

AI 돌파구 탐지

OpenAI는 세계에서 은밀한 돌파구 AI 시스템이 사용되고 있는지 탐지하는 방법을 개발하려고 합니다. 이는 더 많은 조직이 AI 연구에 자원을 할당함에 따라 조직이 비공개 돌파구를 달성하고 악의적인 목적으로 시스템을 배포할 확률이 높아지기 때문입니다. 제안된 탐지 방법에는 뉴스, 금융 시장, 온라인 게임 모니터링이 포함됩니다.

자동 프로그래밍

OpenAI는 온라인 프로그래밍 경에서 승리할 수 있는 에이전트를 구축하려고 합니다. 목표는 다른 프로그램을 작성할 수 있는 프로그램을 만드는 것이며, OpenAI는これを "강력한" 능력이라고 설명합니다.

AI 기반 사이버 보안 방어

OpenAI는 정교한 해커에 대항하기 위한 AI 기술 개발을 우선시하고 있습니다. 회사는 AI의 초기 사용이 컴퓨터 시스템에 침입하는 것이 될 것으로 예상하며, 자신들도 AI 방법을 사용하는 해커에 맞서 방어적인 AI 방법을 만들고자 합니다.

복잡한 멀티 에이전트 시뮬레이션

OpenAI는 numerosi 오래 살아있는 에이전트를 포함하는 대규모 시뮬레이션을 구축하는 데 관심이 있습니다. 목표는 에이전트가 상호작용하고, 장기간에 걸쳐 학습하며, 언어를 발견하고, 다양한 복잡한 목표를 달성할 수 있는 환경을 만드는 것입니다.