Hugging Face, Protect AI와 파트너십을 맺어 모델 보안을 위한 Guardian 스캐너를 추가

TL;DR

Hugging Face는 Protect AI와 파트너십을 발표하고 Protect AI의 Guardian 스캐너를 Hub에 통합하여 악성 pickle이나 Keras Lambda 레이어와 같은 위험한 직렬화 악용을 모든 공개 모델에 자동으로 검사합니다. 이는 코드 실행 위협을 마찰 없이 대규모로 탐지함으로써 전체 머신러닝 커뮤니티의 모델 보안을 강화합니다.

모델 보안 재정리

Hugging Face는 모델 공유가 가중치, 설정 및 보조 데이터 구조를 직렬화하는 과정을 포함한다고 설명합니다. 일부 직렬화 형식—특히 Python의 pickle—은 임의 코드 실행 공격에 취약합니다. 다른 형식에서도 악용 사례가 보고되었으며, 예를 들어 악성 코드를 실행할 수 있는 Keras Lambda 레이어가 있습니다. 이러한 위험을 완화하기 위해 Hugging Face는 이전에 picklescan과 같은 도구를 출시했으며, 이제 Protect AI의 Guardian 스캐너를 통합하여 여러 파일 형식에서 악용을 탐지합니다. Guardian의 지식 베이스는 새로운 시그니처로 지속적으로 업데이트되어 pickle을 넘어 추가적인 취약 형식까지 보호 범위를 확장합니다.

통합 세부 사항

파트너십을 위해 Guardian을 Hub 보안 파이프라인 내의 서드파티 스캐너로 삽입해야 했습니다. 이를 수행하면서 Hugging Face는 Hub UI를 개편하여 스캔 결과를 사용자에게 직접 표시하도록 했습니다. 새로운 UI 요소는 다음과 같습니다:

각 서드파티 스캔의 상태를 보여주는 리스트 뷰.
저장소 전체 보안 스캐너 상태를 나타내는 배너.
pickle‑import 스캔이 수행될 때 나타나는 전용 “Pickle” 버튼.

이 구성 요소들은 자동으로 나타나며, 모델 작성자는 별도의 조치를 취할 필요가 없습니다. 파일이 공개 저장소에 푸시되면 즉시 Guardian이 스캔을 실행하고 결과가 UI에 표시됩니다. 예시 저장소—mcpotato/42-eicar-street—는 이 기능을 실제로 보여줍니다.

규모와 영향

Hugging Face는 이미 수억 개의 파일을 1백만 개가 넘는 모델 저장소에 걸쳐 스캔했다고 밝혔습니다. 스캔 대기열 때문에 일부 새로 업로드된 모델이 즉시 처리되지 않을 수 있지만, 자동화된 시스템은 지속적인 커뮤니티 전체 보호를 보장합니다. 안전한 모델 공유의 마찰을 줄임으로써, 이번 파트너십은 보다 안전한 AI 혁신을 촉진하고 생태계에 더 많은 참여를 장려하는 것을 목표로 합니다.

참여 방법

스캔 정보를 제공하거나 보안 파트너십에 참여하고자 하는 조직이나 개인은 Hugging Face에 security@huggingface.co 로 연락할 수 있습니다. Hub 보안에 대한 추가 문서는 https://huggingface.co/docs/hub/security 에서 확인할 수 있습니다.

이 기사는 2024‑10‑22에 게시된 공식 Hugging Face 블로그 포스트 “Hugging Face Teams Up with Protect AI: Enhancing Model Security for the ML Community”를 기반으로 합니다.