책임감 있고 안전한 AI 사용을 위한 OpenAI 가이드라인

OpenAI는 ChatGPT의 책임감 있고 안전한 사용을 위한 일련의 가이드라인을 발표했으며, 대형 언어 모델(LLM)의 변혁적인 역량이 효과적이고 안전하게 적용되도록 보장합니다. 이 가이드라인은 AI가 지식 작업에서 효율성과 창의성을 향상시킬 수 있지만, 부정확성과 편향과 관련된 위험을 완화하기 위해 인간 감독과 조직 정책 준수가 필수적임을 강조합니다.

인간 감독 및 사실 확인

중요한 모든 작업에 대해 인간이 개입하는 검증이 필요합니다. ChatGPT는 부정확하거나 오래된 정보를 생성할 수 있기 때문입니다. LLM은 진실에 대한 실시간 이해가 아니라 훈련 데이터의 패턴을 기반으로 응답을 생성하므로, 사용자는 중요한 사실을 신뢰할 수 있는 출처와 대조하여 재확인해야 합니다.

시의성이 우선인 경우 응답 정확성을 높이기 위해 OpenAI는 다음 도구를 권장합니다:

• Search: 현재 소스에서 정보를 가져올 수 있도록 ChatGPT를 활성화합니다.
• Deep Research: 최신 정보를 보다 집중적으로 검색합니다.

사용자는 인용을 확인하고 제공된 링크를 열어보며, AI가 생성한 응답에 의존하기 전에 세부 사항을 수동으로 검증하도록 권장됩니다.

전문 조언 및 전문가 검토

ChatGPT는 대화형 AI이며 면허가 있는 전문가가 아니므로, 자격을 갖춘 전문가의 지침을 대체할 수 없습니다. 사용자는 다음 분야와 관련된 결정에 대해 전문가 검토를 받아야 합니다:

• 의료 조언
• 법률 조언
• 재무 조언

AI 응답은 데이터 패턴을 기반으로 하며 특정 개인의 고유한 상황에 적합하지 않을 수 있으므로, 사용자는 이러한 분야에서 조치를 취하기 전에 자격을 갖춘 전문가나 조직의 내부 정책을 따르는 것이 좋습니다.

편향 완화 및 비판적 평가

AI 모델에는 편향이 포함될 수 있어 사용자가 출력물을 신중히 검토하고 결론을 비판적으로 평가해야 합니다. OpenAI는 편향 완화를 지속적인 연구 분야로 식별하고, 사용자가 thumbs-down 버튼이나 신고 흐름을 사용해 편향되거나 안전하지 않은 답변을 보고하도록 장려하여 모든 사용자를 위한 모델 안전성을 향상시키고자 합니다.

준수, 투명성 및 동의

책임 있는 AI 사용은 조직 및 플랫폼 수준의 정책을 모두 준수해야 합니다:

정책 준수

사용자는 먼저 회사의 내부 AI 규칙을 우선시하고, 그 다음에 OpenAI의 사용 정책을 따라야 합니다.

투명성

공개가 요구되는 학교나 직장 환경에서 사용할 경우, 사용자는 대화 링크나 로그를 유지하여 ChatGPT가 최종 작업에 어떻게 기여했는지 투명한 기록을 제공해야 합니다.

데이터 동의

사용자는 다른 사람의 음성이나 데이터를 공유하기 전에 명시적인 동의를 받아야 합니다. 특히, 워크스페이스 관리자가 활성화한 "Record mode"를 사용할 때는 모든 참가자가 녹음에 동의하고 데이터 캡처에 관한 조직 정책을 따르는지 확인해야 합니다.