OpenAI DALL·E 2 연구 미리보기 업데이트

OpenAI는 대기자 명단에 있는 사용자에게 DALL·E 2 접근을 확대하여 주당 최대 1,000명을 온보딩하고 있습니다. 이 확장은 신뢰받는 사용자가 300만 장 이상의 이미지를 생성한 제한된 연구 미리보기 단계에 이어 이루어졌으며, 이를 통해 OpenAI는 안전 시스템과 콘텐츠 정책 집행을 개선할 수 있었습니다.

안전 시스템 강화 및 정책 집행

OpenAI는 텍스트 필터를 개선하고 자동 감지 및 대응 시스템을 조정하여 콘텐츠 정책 위반을 보다 잘 식별하도록 했습니다. 연구 미리보기 데이터에 따르면, 다운로드되거나 공개적으로 공유된 이미지 중 0.05% 미만이 잠재적으로 콘텐츠 정책을 위반한 것으로 표시되었습니다. 표시된 이미지 중 약 30%는 인간 검토자가 실제 위반으로 확인했으며, 그 결과 계정이 비활성화되었습니다.

편향 및 해악 완화 대응

잠재적인 해악을 완화하고 학습 데이터에서 물려받은 편향을 해결하기 위해, OpenAI는 초기 사용자에게 얼굴이 포함된 사진처럼 사실적인 생성물을 공유하지 않도록 요청했습니다. 또한 사용자는 문제 있는 생성물을 신고하도록 권장되었습니다. OpenAI는 이 관행이 현재 연구 미리보기 단계에서 잠재적인 해악을 제한하는 데 효과적이었다고 밝혔습니다.

배포 전략 및 사용자 온보딩

OpenAI는 대기자 명단에 있는 사용자에게 DALL·E 2 접근을 천천히 꾸준히 확대하고 있습니다. 현재 온보딩 비율은 주당 최대 1,000명으로 설정되어 있습니다. 이러한 점진적인 출시 방식은 실제 사용으로부터 학습하여 안전 시스템을 반복 개선하고 온보딩 비율을 늘리기 전에 AI를 책임감 있게 배포하려는 OpenAI의 약속의 일환입니다.