OpenAI 2024 선거 무결성 이니셔티브

OpenAI는 2024년 전 세계 선거의 무결성을 보호하기 위해 포괄적인 안전 장치를 배치했으며, 사용자를 권위 있는 정보 출처로 안내하고, 기만적인 정치 콘텐츠 생성을 차단하며, 은밀한 영향력 작전을 모니터링하는 데 중점을 두고 있습니다. 이러한 조치는 세계 주요 민주주의 국가들에서 AI가 민주적 절차를 훼손하는 남용을 방지하기 위해 설계되었습니다.

권위 있는 선거 정보 강화

OpenAI는 정확성을 보장하고 잘못된 정보의 확산을 줄이기 위해 투표 절차와 선거 결과에 대한 공식 출처로 사용자를 안내하는 것을 최우선으로 합니다.

미국 투표 정보

National Association of Secretaries of State (NASS)와의 협력을 통해, ChatGPT는 미국에서 어떻게 또는 어디에서 투표할지 묻는 사용자들을 CanIVote.org로 안내합니다. 미국 선거 전 한 달 동안 약 100만 건의 ChatGPT 응답이 사용자를 이 권위 있는 사이트로 안내했습니다.

미국 선거 결과

미국 선거일에 시작하여, ChatGPT는 선거 결과를 찾는 사용자들에게 Reuters와 Associated Press와 같은 뉴스 소스 또는 해당 주와 지방 선거 위원회를 참고하도록 권장하도록 설정되었습니다. 선거일 및 그 다음 날에 약 200만 건의 응답에 이 안내가 포함되었습니다.

유럽 의회 선거

미국의 노력과 유사하게, ChatGPT는 유럽 의회 선거 절차에 대해 묻는 사용자들을 공식 투표 정보 출처인 elections.europa.eu로 안내합니다.

정치적 중립성

OpenAI는 ChatGPT가 명시적으로 요청받더라도 정치적 선호를 표현하거나 특정 후보를 추천하지 않도록 조치를 구현했습니다.

AI 생성 딥페이크 방지

기만적인 미디어 위험에 대응하기 위해, OpenAI는 실제 인물, 특히 정치인들의 이미지 생성을 엄격히 제한하는 방어 장치를 시행합니다.

이미지 생성 제한

ChatGPT는 정치인 이미지 생성 요청을 거부합니다. 미국 선거일 전 한 달 동안, OpenAI는 ChatGPT가 대통령 당선자 Trump, 부통령 Harris, 부통령 당선자 Vance, 대통령 Biden, 주지사 Walz의 DALL·E 이미지 생성 요청을 250,000건 이상 거부한 것으로 추정합니다.

콘텐츠 출처 및 투명성

OpenAI는 디지털 콘텐츠 인증 표준인 C2PA (Coalition for Content Provenance and Authenticity)의 운영 위원회에 참여했습니다. 또한, 회사는 연구자들에게 AI 생성 콘텐츠에 대한 투명성을 촉진하기 위해 DALL·E 3으로 만든 이미지를 식별하는 도구에 대한 사전 접근 권한을 제공했습니다.

은밀한 영향력 작전 차단

OpenAI의 위협 인텔리전스 팀은 서비스를 모니터링하여 AI 도구를 이용한 은밀한 영향력 작전 시도를 식별하고 차단합니다.

위협 인텔리전스 보고

OpenAI는 2024년 5월에 AI의 기만적 사용 차단에 관한 정보를 공개하기 시작했으며, 이후 2024년 8월과 10월에 상세 보고서를 발표했습니다.

영향 평가

OpenAI는 자사 모델을 이용해 바이럴하게 확산되거나 지속적인 청중을 형성한 미국 선거 관련 영향력 작전의 증거를 발견하지 못했다고 보고했습니다.

정책 및 입법 지원

OpenAI는 초당파적인 미국 상원 법안인 "Protect Elections from Deceptive AI Act"를 지지합니다. 이 법안은 연방 후보자를 위한 정치 광고에서 기만적인 AI 생성 오디오, 이미지 또는 비디오의 배포를 금지하되, 제1수정권을 보호하기 위한 예외를 유지합니다.