OpenAI 국가 안보 분야의 민주적 감독 강화

TL;DR

OpenAI는 AI 기반 국가 안보 시스템을 모니터링하는 민주적 감독 기관을 지원하기 위해 1년 기간의 프로그램을 발표했습니다. 감독의 효과성, 투명성 및 신뢰성을 높이기 위해 교육, 기술 지원 및 OpenAI 크레딧으로 500만 달러를 지원하기로 약속했습니다.

왜 감독은 AI와 함께 진화해야 하는가

전통적인 감독 메커니즘은 노동 집약적이며 머신 스피드로 작동하는 AI 시스템의 속도를 따라잡을 수 없습니다. AI가 국가 안보 분야의 의사결정을 가속화함에 따라, 인간이 감지하기 전에 실수가 확산될 수 있으므로 신속하고 확장 가능한 감독이 필수적입니다.

OpenAI의 정부 AI 사용에 관한 가이드라인 원칙

인간 및 기관의 판단 우선 – AI 도구는 권한이 있는 기관 및 감독 기구의 법적 및 정책적 판단을 대체하는 것이 아니라 보완하는 것을 목적으로 합니다.
추적 가능성 및 가독성 – 감독 검토자는 기밀, 개인 정보 및 보안 민감 정보를 보호하면서 AI가 의사결정에 어떻게 기여했는지 이해할 수 있어야 합니다.
민주적 감독 강화 – AI는 감독 기관이 검토 프로세스를 확장할 수 있도록 도와, 그들의 임무에 따라 책임감 있고 가독성 있는 사용을 보장하도록 배치되어야 합니다.

OpenAI가 감독을 강화하는 방법

향후 12개월 동안 OpenAI는 다음과 같이 진행할 것입니다:

실질적인 사용 사례 식별 – 권한이 있는 공직자와 협력하여 AI 도구 또는 기술 지원이 어디에서 감독을 효과적으로 만들 수 있는지 정확히 짚어냅니다.
재정적 및 기술적 자원 제공 – 책임감 있는 AI 도입 및 평가를 위해 민주적 감독 기구에 교육, 기술 지원 및 OpenAI 크레딧으로 500만 달러를 할당합니다.
투명한 검토 도구 파일럿 운영 – 감독 기관과 협력하여 AI 지원 정부 의사결정의 입력값, 출력값 및 사용 맥락을 드러내는 도구를 개발하고 테스트합니다. 이러한 도구는 가능한 경우 모델에 구애받지 않도록 설계될 것이며, 참여 기관은 증거와 조사 결과에 대한 독점적 제어권을 유지합니다.
시민 사회 및 전문가 참여 – 시민 사회 단체 및 기술 전문가의 피드백을 반영하여 도구 개발을 형성하고 더 넓은 범위의 책임을 다합니다.

기대 효과 및 평가 기준

OpenAI는 권한이 있는 검토자가 감독 의무를 더 효과적으로 이행할 수 있는지, 그리고 대중이 정부 AI 시스템이 의도한 대로 사용되고 있다는 더 강력한 신뢰를 얻을 수 있는지에 따라 성공을 여부부를 측정할 것입니다. 지속적인 모니터링, 사고 검토 및 학습된 교훈은 더 강력한 보호 장치와 향후 모델 개발에 피드백으로 반영될 것입니다.

민주적 거버넌스에 미치는 광범위한한 Implications

AI는 권력을 집중시키거나 민주적 기관이 권력을 더 효율적으로 견제할 수 있도록 할 수 있습니다. 자원을 제공하고 투명한 도구를 제공함으로써, OpenAI는 후자의 쪽으로 균형을 기울이도록 하는 것을 목표로 하며, 기술만으로는 결과가 결정되지 않는다는 점을 강조합니다. 인간 기관과 기업의 선택이 결과를 결정합니다.

향후 약속

OpenAI는 정부의 AI 사용이 진화함에 따라 감독 기관을 계속 지원할 것이며, 이를 통해 보호 장치, 의미 있는 인간의 판단, 그리고 적절한 감독이 점점 더 유능해지는 시스템과 속도를 맞출 수 있도록 보장할 것입니다.