Hugging Face와 JFrog의 파트너십으로 강화된 AI 모델 보안

Hugging Face는 JFrog와 파트너십을 맺어 Hugging Face Hub에 JFrog 스캐너를 통합했으며,これにより 모델 가중치에 내장된 악성 코드를 탐지하는 플랫폼의 능력을 향상시켰습니다. 이 파트너십은 거짓 양성을 줄이고 탐지 가능한 위협의 범위를 확장함으로써 머신러닝 커뮤니티에 더욱 투명하고 안전한 환경을 제공하는 것을 목표로 합니다.

거짓 양성을 줄이는 고급 코드 분석

JFrog 스캐너는 간단한 패턴 매칭을 넘어 기존 보안 조치를 개선합니다. Hugging Face의 현재 picklescan 도구는 모듈 이름에 대한 패턴 매칭을 수행하지만, 특정 함수 또는 모듈의 사용이 악성인지 무해한 개발자 관행인지 항상 판단할 수는 없습니다.

JFrog 스캐너는 모델 가중치 내의 코드를 파싱하고 분석하여 잠재적인 악성 사용을 검증함으로써 이 문제를 해결합니다. 이 더 깊은 분석을 통해 플랫폼은 양성 코드와 실제 보안 위협을 더 정확하게 구분할 수 있게 되어, 허브에서의 거짓 양성 수를 줄일 수 있습니다.

직렬화 형식 전반에 걸친 위협 탐지 확장

모델 보안은 가중치, 구성 및 데이터 구조를 저장하고 전송하는 데 사용되는 직렬화 형식이 취약점을 가질 수 있기 때문에 중요합니다. 예를 들어 pickle과 같은 특정 형식은 역직렬화 또는 추론 중에 임의 코드 실행을 허용할 수 있습니다.

JFrog의 통합은 플랫폼의 보안 범위를 여러 가지 악용 가능한 형식으로 확장합니다. 구체적으로, JFrog 스캐그 다음 형식에서 악용을 탐지할 수 있습니다:

• Pickle files: 임의 코드 실행으로부터 보호
• Keras Lambda layers: 임의 코드 실행을 허용하는 악용 탐지
• 추가 파일 형식: 스캐너는 JFrog의 Model Threats 연구에 자세히 설명된 대로 더 넓은 범위의 형식을 다룹니다.

자동 통합 및 허브 전체 배포

Hugging Face Hub의 모든 공개 모델 저장소는 파일이 플랫폼에 푸시되는 즉시 JFrog에 의해 자동으로 스캔됩니다. 이 통합은 사용자의 조치가 필요하지 않습니다.

허브가 수백만 개의 모델 저장소를 호스트하기 때문에 rollout은 점진적으로 이루어집니다. Hugging Face는 이미 수백만 개의 파일을 스캔하여 커뮤니티가 안전하고 마찰 없이 모델을 공유할 수 있도록 보장했습니다.