google/vizier

Python-based research interface for blackbox and hyperparameter optimization, based on the internal Google Vizier Service.

What it solves

OSS Vizier는 신뢰성 있고 유연한 블랙박스 최적화 시스템을 제공하며, 특히 대규모 하이퍼파라미터 튜닝을 위해 설계되었습니다. 사용자는 목표 함수의 내부 작동 방식을 알 필요 없이 최적의 파라미터를 찾을 수 있습니다.

How it works

분산 클라이언트‑서버 시스템으로 동작합니다. 사용자는 검색 공간(실수, 정수, 이산, 범주형 파라미터 포함)과 최대화 또는 최소화할 메트릭을 정의합니다. 시스템은 평가할 파라미터를 제안하고, 사용자의 코드가 이를 평가한 뒤 결과를 서비스에 보고함으로써 최적화 루프가 형성됩니다.

Who it’s for

  • ML Engineers: 머신러닝 모델의 하이퍼파라미터를 튜닝하기 위해.
  • AI Researchers: Developer 및 Benchmarking API를 사용해 새로운 최적화 알고리즘을 구현하고 벤치마크하기 위해.
  • Developers: 대규모 진화 실험이나 프로그램 탐색을 위한 분산 백엔드가 필요한 경우.

Highlights

  • Distributed Architecture: 다중 클라이언트를 지원하는 클라이언트‑서버 모델.
  • Comprehensive API: 사용자, 알고리즘 구현 개발자, 알고리즘 벤치마킹 연구자를 위한 별도 API 제공.
  • Flexible Search Spaces: 범주형 및 이산값을 포함한 다양한 파라미터 타입 지원.
  • Integration: TensorFlow Probability, Flax, PyGlove에 대한 고급 통합 지원.
  • JAX-based Optimizer: JAX 기반 최신 베이지안 옵티마이저 포함.