Hugging Face의 백악관 AI 행동 계획 RFI에 대한 응답

Hugging Face는 백악관 과학기술정책실(Office of Science and Technology Policy)의 백악관 AI 행동 계획에 관한 정보 요청(RFI)에 대한 공식 응답을 제출했습니다. 회사는 개방형 AI 시스템과 개방 과학이 성능 향상, 자원 효율성 증대, 그리고 최고 수준의 보안 및 신뢰성을 보장하는 데 필수적이라고 주장합니다.

개방형 모델의 성능 및 효율성

개방형 AI 개발 접근 방식은 많은 작업에서 API 전용 상업 제품의 성능을 지속적으로 재현하거나 능가하고 있으며, 종종 더 짧은 기간과 더 높은 자원 효율성으로 이를 달성하고 있습니다.

두 가지 주요 사례가 이 추세를 보여줍니다:

• OlympicCoder: 오픈소스 사후 학습 레시피를 사용한 7B 파라미터 모델으로, 복잡한 코딩 작업에서 Claude 3.7을 능가했습니다.
• OLMo 2: AI2에서 제공하는 완전 개방형 모델로, 오픈 학습 데이터를 포함하며 o1-mini와 동등한 성능을 보입니다.

권고사항 1: 개방 소스와 개방 과학을 기반으로

개방 연구와 개방형 소프트웨어는 모든 고급 AI 시스템의 핵심 기반을 제공합니다. Hugging Face는 주의 메커니즘, 트랜스포머 아키텍처, 효율적인 사후 학습 알고리즘과 같은 핵심 진보가 개방 연구 위에서 이루어졌다고 강조합니다. 마찬가지로 PyTorch와 Hugging Face 라이브러리와 같은 필수 소프트웨어는 오픈 소스입니다.

기술적·경제적 성공을 지속하기 위해 Hugging Face는 다음을 우선시할 것을 권고합니다:

• 공공 연구 인프라.
• 광범위한 컴퓨팅 자원 접근.
• 특히 소규모 개발자와 연구자를 위한 맞춤형 모델 및 신뢰할 수 있는 개방 데이터셋.

권고사항 2: 효율성과 신뢰성 우선

광범위한 혁신을 위해서는 AI를 도입하는 조직의 자원 제약을 해결해야 합니다. Hugging Face는 효율성에 초점을 맞추면 기술의 확산이 촉진되고 개발 체인 전반에 걸쳐 혁신이 촉진된다고 주장합니다.

핵심 기술 우선순위는 다음과 같습니다:

• 소형 모델: 엣지 디바이스에서 실행 가능한 모델 개발.
• 추론 최적화: 양자화와 같은 기술을 적용해 추론 시 계산 요구량을 감소.
• 중규모 학습: 제한된 컴퓨팅 자원을 가진 조직도 학습할 수 있도록 지원.

이러한 효율적이고 목적에 맞게 설계된 시스템은 의료와 같이 위험도가 높은 환경에서 일반 모델이 종종 신뢰성을 보장하지 못하는 경우에 더 신뢰할 수 있습니다. 또한 컨텍스트 내 평가와 자원 활용을 개선합니다.

권고사항 3: 투명성과 추적성을 통한 보안

오픈소스 소프트웨어 분야에서 수십 년간 쌓아온 사이버 보안 경험을 바탕으로, Hugging Face는 개방적이고 투명한 AI 시스템이 중요한 배포에 가장 안전한 경로라고 주장합니다. 서로 다른 보안 요구사항은 서로 다른 수준의 개방성을 필요로 합니다:

• 완전 투명 모델: 학습 데이터와 절차에 대한 접근을 제공하는 모델은 광범위한 안전 인증에 가장 적합합니다.
• 오픈 인프라 및 툴링: 최신 학습 기법을 구현한 오픈소스 도구는 조직이 완전 통제된 환경에서 모델을 학습할 수 있게 합니다.
• 오픈-웨이트 모델: 이러한 모델은 정보 위험을 관리하기 위해 에어갭 환경에 배포될 수 있습니다.

투명한 시스템 채택을 우선시하고 이를 활용할 역량을 구축함으로써, 조직은 보다 안전한 AI 도입을 보장할 수 있습니다.