OpenAI: AI 개발의 검증 가능성 향상

OpenAI와 다양한 학계 및 산업계 기관의 연구자 연합은 AI 개발의 검증 가능성을 향상시키기 위한 프레임워크를 도입했습니다. 이 이니셔티브는 사용자, 규제 기관, 학계 등 이해관계자들이 AI 시스템이 개발자가 주장하는 윤리 원칙과 안전성 주장을 실제로 반영하고 있는지 확인할 수 있는 수단을 제공하는 것을 목표로 합니다.

AI 개발의 검증 가능성 격차

AI 조직이 윤리 원칙을 명시하는 것과 외부 이해관계자가 이러한 원칙을 실제로 검증할 수 있는 능력 사이에는 상당한 격차가 존재합니다. 이러한 투명성 부족은 다음과 같은 여러 시스템적 위험을 초래합니다:

• 사회적 해악 증가: 시스템 속성에 관한 모호함은 잠재적 위험이 인지되지 않거나 해결되지 않은 채 방치될 수 있는 위험을 허용합니다.
• 경쟁적 편법 사용: 외부 검증이 없다면, 개발자들은 경쟁 우위를 확보하기 위해 안전성이나 윤리적 모범 사례를 희생할 유인이 생길 수 있습니다.
• 이해관계자의 불확실성: 사용자, 정책 입안자 및 시민 사회는 개인정보 보호, 안전성 및 위험에 대한 주장에 대해 면밀히 조사할 도구가 부족합니다.

주요 이해관계자 우려 사항

이 프레임워크는 이해관계자들이 AI 시스템과 상호작용할 때 직면하는 구체적인 질문들을 다룹니다:

• 사용자 개인정보 보호: 사용자들은 기계 번역과 같은 민감한 작업에 AI를 사용할 때 보장되는 개인정보 보호 수준에 관한 주장을 검증할 필요가 있습니다.
• 규제 감독: 규제 기관은 사고(예: 자율 주행 차량)로 이어지는 단계를 추적할 수 있는 능력과 안전성 주장에 대해 측정할 수 있는 기준을 수립할 수 있는 능력이 필요합니다.
• 학술 연구: 독립적인 연구자들은 종종 산업계에서 사용할 수 있는 컴퓨팅 자원을 보유하지 못하여, 대규모 AI 시스템의 위험에 대한 공정하고 객관적인 연구를 수행하는 데 어려움을 겪습니다.
• 개발자 책임성: AI 개발자들은 경쟁자들이 더 빠른 배포를 위해 편법을 쓰는 대신 모범 사례를 따르고 있는지 확인받을 필요가 있습니다.

검증을 위한 제안된 메커니즘

검증 가능성 격차를 해소하기 위해, 보고서는 이해관계자들이 AI 주장을 검증하는 데 도움이 되도록 설계된 10가지 메커니즘을 식별합니다. 전체 기술적 논의와 주의 사항은 동반되는 연구 논문에서 자세히 다룰 수 있지만, 이 메커니즘들은 AI 개발을 사회 전체에 대해 더 투명하고 책임감 있게 만드는 구조화된 접근 방식을 제공하기 위한 의도입니다.