OpenAI, Cohere, 및 AI21 Labs 언어 모델 배포를 위한 모범 사례
OpenAI, Cohere, 및 AI21 Labs는 대형 언어 모델(LLM)을 개발하거나 배포하는 조직을 위해 초기 모범 사례 집합을 마련했습니다. 이러한 가이드라인은 강력한 AI 기술과 관련된 위험을 완화하여 인간 능력을 보강하면서도 해를 최소화하는 것을 목표로 합니다.
언어 모델 오용 금지
LLM 제공자는 기술이 악의적인 목적으로 사용되는 것을 방지하기 위해 엄격한 사용 가이드라인 및 기술 인프라를 구현해야 합니다.
- Usage Guidelines and Terms of Use: 제공자는 사회, 개인 및 커뮤니티에 실질적인 해를 초래하는 것을 금지하는 명확한 약관을 공개해야 합니다. 여기에는 스팸, 사기 또는 가짜 여론 조성을 위한 LLM 사용 금지가 포함됩니다. 또한, 가이드라인은 보호된 특성에 기반한 사람 분류와 같이 추가 검토가 필요하거나 완전히 금지된 고위험 사용 사례를 식별해야 합니다.
- Enforcement Infrastructure: 사용 가이드라인 준수를 보장하기 위해 제공자는 속도 제한, 콘텐츠 필터링, 프로덕션 접근을 위한 애플리케이션 승인 절차, 이상 활동 모니터링과 같은 시스템을 구축해야 합니다.
의도치 않은 해악 완화
예방 조치만으로는 의도치 않은 해악 가능성을 완전히 없앨 수 없기 때문에, 제공자는 모델 행동을 사전에 다루고 남아 있는 취약점에 대해 투명해야 합니다.
- Proactive Mitigation: 제공자는 제한 사항을 평가하기 위해 포괄적인 모델 평가를 수행하고 인간 피드백 학습과 같은 기법을 사용하여 안전하지 않은 행동을 최소화해야 합니다. 또한 훈련 데이터 내 편향 가능성을 최소화하기 위한 노력도 필요합니다.
- Documentation of Weaknesses: 제공자는 모델이 불안전한 코드를 생성하거나 내재된 편향을 보이는 등 알려진 취약점을 문서화해야 합니다. 이 문서에는 모델 및 해당 사용 사례에 특화된 안전 모범 사례가 포함되어야 합니다.
이해관계자 협업 및 윤리적 노동
책임 있는 배포를 위해서는 다양한 관점과 산업 전반의 투명성이 필요하며, 모델이 실제 세계에서 어떻게 작동하는지를 다루어야 합니다.
- Diverse Teams: 조직은 다양한 배경을 가진 팀을 구성하여 모델이 편향을 강화하거나 특정 그룹에게 실패하지 않도록 해야 합니다.
- Public Disclosure: LLM 안전 및 오용에 대한 교훈을 공개적으로 공유하여 산업 간 반복과 안전 기준의 광범위한 채택을 가능하게 해야 합니다.
- Labor Standards: 제공자는 LLM 공급망의 모든 노동자를 존중해야 합니다. 여기에는 내부에서 모델 출력을 검토하는 직원들의 근무 조건을 높은 수준으로 유지하고, 제3자 공급업체가 라벨러가 특정 작업을 거부할 수 있도록 하는 등 명확히 규정된 기준을 준수하도록 보장하는 것이 포함됩니다.
산업 지원 및 관점
이 공동 권고안은 다양한 AI 조직 및 연구 센터의 지원을 받아 산업 협업의 중요성을 강조하고 있습니다.
"LLM은 많은 가능성을 가지고 있지만, 해결해야 할 중대한 고유 안전 문제가 있습니다. 이러한 모범 사례는 모델의 해악을 최소화하고 잠재적 이점을 극대화하기 위한 중요한 단계입니다."
—Anthropic
"대형 언어 모델(LLM)이 점점 더 강력하고 표현력이 풍부해짐에 따라 위험 완화가 더욱 중요해지고 있습니다. 우리는 이러한 노력과 다른 사전적 해악 완화 시도, 그리고 사용자에게 추가적인 주의가 필요한 영역을 강조하는 노력을 환영합니다."
—John Bansemer, Director of the CyberAI Project and Senior Fellow, Center for Security and Emerging Technology(CSET)
"Google은 모델 및 훈련 데이터 분석에 있어 포괄적인 전략의 중요성을 확인하며, 이를 통해 해악, 편향 및 오해의 위험을 완화합니다."
"대형 언어 모델의 약속을 실현하기 위해 우리는 산업으로서 지속적으로 협업하고, 책임 있게 개발·배포하는 방법에 대한 모범 사례를 공유하며 잠재적 위험을 완화해야 합니다."
—Microsoft
"대형 언어 모델과 같은 기초 모델의 안전은 점점 커지는 사회적 관심사입니다. 우리는 책임 있는 개발 및 배포를 위한 고수준 원칙을 제시하는 첫 걸음을 내딛은 Cohere, OpenAI, AI21 Labs를 칭찬합니다..."
—Percy Liang, Director of the Stanford Center for Research on Foundation Models(CRFM)