OpenAI 청사진: 사이버 수호자 역량 강화 및 AI 거버넌스

AI는 사이버 보안의 속도, 규모, 경제성을 근본적으로 변화시키며, 강력한 방어 역량과 동시에 상당한 새로운 위험을 제시하고 있습니다. 이 청사진은 고급 공격적 AI 기능이 널리 보급되기 전에 정부와 산업계가 보호 조치를 강화하고 사이버 수호자의 역량을 강화하기 위한 구체적인 행동을 제안합니다.

수호자 창구의 시급성

AI 시스템은 침입 탐지, 취약점 발견 및 수정, 공격 대응을 지원함으로써 사이버 보안 수호자에게 상당한 도움을 줄 수 있습니다. 그러나 이러한 동일한 기능은 악의적인 행위자에 의해 악용될 수 있으며, AI 시스템이 의도된 경계를 벗어나 작동할 때 새로운 위험을 창출합니다. OpenAI는 '수호자 창구'를 식별합니다. 이는 고급 AI를 방어 작전에 통합하고 고급 사이버 공격 기능이 보편화되기 전에 보호 조치를 강화할 수 있는 제한된 기회입니다.

거버넌스 청사진의 세 가지 기둥

내부 정렬 실패 및 보안 사고에서 얻은 교훈을 바탕으로, 이 청사진은 최첨단 AI의 민주적 거버넌스를 강화하기 위해 세 가지 주요 영역에 걸친 구체적인 제안을 제시합니다.

고급 AI를 위한 안전 및 보안 강화

최첨단 모델과 에이전트에 내재된 위험을 완화하기 위해, 조직은 AI 보안에 관한 더 명확한 책임을 설정해야 합니다. 이는 모델이 안전하고, 위험한 행동을 탐지할 수 있으며, 조직이 통제하는 모든 운영에 대해 신뢰할 수 있는 종료 통제가 유지되도록 보장하는 강력한 안전장치를 구현해야 함을 요구합니다.

지능 시대를 위한 사이버 보안 현대화

수호자에게 역량을 부여하려면 현재 사이버 보안 관행의 포괄적인 현대화가 필요합니다. 이 기둥은 수호자에게 고급 도구, 기술 지원, 전문 교육을 제공하는 데 중점을 둡니다. 또한, 오래된 시스템을 교체하여 오랜 사이버 보안 취약점을 해결하고 필수 서비스 보안에 투자할 것을 요구합니다.

회복력 있고 적응력 있는 공공 기관 구축

정부는 고급 AI 위험을 관리하는 역량을 강화해야 합니다. 이는 AI 시스템에 대한 정부 평가와 독립적인 기술 평가를 강화하는 것을 포함합니다. 또한, 청사진은 일관된 사고 보고 요구 사항을 수립하고 사이버 사고 중 조정 및 복구 프로세스를 개선할 것을 요구합니다.

공동 책임 및 행동 촉구

고급 AI가 창출하는 위험을 해결하려면 AI 개발자와 통치 기관 간의 협력이 필요합니다. AI 연구소는 자사 시스템이 생성하는 위험을 해결하고 사회적 방어 강화에 기여할 책임이 있습니다. 동시에, 정부는 AI 역량이 발전함에 따라 대중을 보호하기 위해 필요한 전문성, 자원, 권한을 보유해야 합니다.

OpenAI는 정책 입안자들이 즉시 행동하여 필요한 안전장치를 수립하고, 운영 경험에서 학습하며, 기술이 계속 발전함에 따라 요구 사항을 강화할 것을 권장합니다.