facebookresearch/nevergrad

解決的問題

提供一種無需梯度即可最小化函數的方法，這對於優化超參數或複雜函數至關重要，特別是在無法取得相同數學導數的情況下。

工作原理

該庫使用多種無梯度優化演算法來尋找給定函數的最小值。使用者可定義一個搜尋空間（參數化），其中可包含連續變數、整數和分類選擇（例如 "conv" 與 "fc"）。

適用對象

需要優化機器學習模型或其他數學函數參數，但傳統基於梯度的方法不適用的研究人員與開發者。

主要亮點

• 支援有界連續變數、離散變數以及不同輸入類型的混合。
• 提供簡單 API，僅需少量程式碼即可最小化函數。
• 靈活的參數化系統，可處理對數分佈的標量、整數和選擇項。
• 無梯度方法，適用於各種複雜的優化問題。