google/vizier

Python-based research interface for blackbox and hyperparameter optimization, based on the internal Google Vizier Service.

What it solves

OSS Vizier 提供一個可靠且彈性的黑箱優化系統,專為大規模超參數調整而設計。它讓使用者能在不必了解目標函式內部運作的情況下,找到該函式的最佳參數。

How it works

它以分散式客戶端‑伺服器模式運作。使用者定義搜尋空間(包括浮點、整數、離散與類別參數)以及要最大化或最小化的指標。系統會建議要評估的參數,使用者的程式負責評估並將結果回報給服務,形成優化迴圈。

Who it’s for

  • ML Engineers: 用於調整機器學習模型的超參數。
  • AI Researchers: 使用 Developer 與 Benchmarking API 來實作與基準測試新優化演算法。
  • Developers: 需要分散式後端以進行大規模演化實驗或程式搜尋的開發者。

Highlights

  • Distributed Architecture: 支援多客戶端的客戶端‑伺服器模型。
  • Comprehensive API: 為使用者、實作演算法的開發者與進行演算法基準測試的研究者提供獨立的 API。
  • Flexible Search Spaces: 支援包括類別與離散值在內的多種參數類型。
  • Integration: 提供對 TensorFlow Probability、Flax 與 PyGlove 的進階支援。
  • JAX-based Optimizer: 包含基於 JAX 的最先進貝葉斯優化器。