OpenAI AI 진행 상황 및 권장 사항

OpenAI는 AI 진행 상황을 위한 로드맵을 발표했으며, 시스템이 2026년과 2028년까지 단기 작업 수행에서 자율적 과학적 발견으로 이동할 것이라고 예측했습니다. 이 궤적은 현재 소비자가 챗봇으로서 사용하는 AI와 시스템이 복잡한 지적 문제를 해결할 수 있는 실제 능력 사이의 격차가 커지고 있음을 강조합니다.

AI 능력 궤적과 경제적 영향

AI 능력은 급속히 발전하고 있으며, 특히 소프트웨어 엔지니어링 분야에서 시스템은 사람이 몇 초 걸리는 작업을 수행하는 것에서 한 시간 이상 걸리는 작업을 수행하는 것으로 진화했습니다. OpenAI는 시스템이 곧 며칠 또는 몇 주에 걸리는 인간의 작업을 처리할 수 있을 것으로 기대하며, 수세기 동안의 인간의 노력이 필요한 작업을 처리할 수 있는 능력은 현재 정의되지 않은 frontier라고 지적했습니다.

주요 지표와 마일스톤은 다음과 같습니다:

지능 비용: 지능 단위당 비용은 지난 몇 년 동안 연간 약 40배 감소했습니다.
2026 예측: AI는 "매우 작은 발견"을 할 수 있을 것으로 예상됩니다.
2028 예측: OpenAI는 시스템이 "더 중요한 발견"을 할 수 있을 것이라는 확신을 표현했습니다.

OpenAI는 사회적 관성으로 인해 일상 생활이 일정하게 느껴질 것으로 예상하지만, 경제적 전환이 어려울 수 있고 근본적인 사회경제적 계약이 널리 분산된 풍요로움을 수용하기 위해 변경되어야 할 수도 있다고 인정합니다.

초지능 시스템의 안전과 조정

OpenAI는 초지능 시스템과 관련된 위험을 잠재적으로 katastrofic하다고 간주합니다. 조직은 강력한 조정과 통제 없이 초지능 시스템을 배포해서는 안 된다고 주장하며, 이는 추가적인 기술 작업이 필요함을 의미합니다.

이러한 위험을 완화하기 위해 OpenAI는 다음과 같이 권장합니다:

공유 안전 원칙: 프론티어 랩은 공유 안전 원칙에 동의하고, 새로운 위험에 대한 연구와 학습을 교환하며, 경주 동역학을 줄이는 메커니즘을 공유해야 합니다.
통제 평가: AI 통제 평가에 대한 산업 표준을 수립하는 것이 필요한 단계로 제안됩니다.
실증 연구: 안전과 조정에 대한 실증 연구를 활용하여 글로벌 결정을 알리는데, 시스템이 재귀적 자기 개선에 접근할 때 분야가 개발을 늦춰야 하는지 여부를 포함합니다.

규제 프레임워크와 거버넌스

OpenAI는 AI의 진행에 관한 두 가지 주요 사유를 식별하고 각각에 대한 서로 다른 거버넌스 접근 방식을 제안합니다:

시나리오 1: AI를 "일반 기술"로 보는 경우

이 시나리오에서 AI는 인쇄 press 또는 인터넷과 같은 이전 기술 혁신과 유사하게 진행됩니다. 거버넌스는 다음과 같은 것에 초점을 맞춰야 합니다:

혁신 촉진: 기존 공공 정책 도구 사용.
프라이버시와 오용: 연방 정부와 협력하여 대화 프라이버시를 보호하고 악의적인 행위자에 의한 오용에 맞서 방어.
현재 수준에 대한 최소 규제: OpenAI는 오늘날의 능력 수준에서의 AI가 최소한의 추가 규제 부담으로 널리 확산되어야 한다고 주장하며, 구체적으로 "50개 주 패치워크"의 법률을 피해야 한다고 봅니다.

시나리오 2: 급속한 초지능

이 시나리오에서 초지능은 전례 없는 속도로 개발되고 확산됩니다. 거버넌스는 다음과 같이 요구됩니다:

경영 조정: 여러 국가의 행정부와 안전 연구소와의 긴밀한 협력.
목표 완화: 바이오테러리즘에서의 AI 응용 방지와 자기 개선 AI의 의미 관리에 특정 초점을 맞춥니다.
책임: 잠재적으로 비전통적인 방법을 통해 공공 기관에 대한 책임을 유지합니다.

AI 탄력성 생태계

OpenAI는 사이버보안 분야와 유사한 "AI 탄력성 생태계"의 구성을 제안합니다. 사이버보안이 암호화 프로토콜, 모니터링 시스템, 비상 대응 팀을 수립하여 인터넷을 신뢰할 수 있게 만든 것처럼, AI에도 유사한 소프트웨어와 표준의 생태계가 필요합니다. OpenAI는 국가 정부가 산업 정책을 사용하여 이 생태계의 개발을 장려해야 한다고 제안합니다.

개인 역량 강화 및 접근

OpenAI는 고급 AI를 전기, 깨끗한 물, 음식과 비교할 수 있는 미래의 기초 유틸리티로 봅니다. 조직은 이러한 도구를 광범위한 사회적 경계 내에서 사용될 때 개인이 목표를 달성할 수 있도록 역량을 강화하기 위해 널리 제공될 것을 옹호합니다.