SimonBlanke/Gradient-Free-Optimizers

解決的問題

Gradient-Free-Optimizers (GFO) 為無法取得梯度、不切實際或根本不存在梯度的「黑箱」函數提供了一種統一的優化方法。它簡化了在包含連續、離散、分類與分佈型資料的複雜搜尋空間中，尋找給定目標函數最佳參數的過程。

工作原理

該庫實作了23種不同類型的優化演算法，分為局部搜尋、全域搜尋、基於族群與基於序列模型的方法（如貝氏最佳化）。使用者定義一個需要最大化的目標函數與一個搜尋空間。最佳化器隨後提出參數，透過目標函數進行評估，並利用其內部策略迭代改善分數。

適用對象

專為從事機器學習模型超參數調校、模擬最佳化、特徵選擇與工程設計的開發者與研究人員設計。

主要亮點

• 統一 API：僅需修改一行程式碼即可在23種不同演算法間切換。
• 混合搜尋空間：支援連續範圍、離散網格、分類選擇以及 SciPy 分佈在同一空間中使用。
• 內建快取：透過快取避免對昂貴目標函數的重複評估。
• 依賴極少：僅需 NumPy 與 pandas，適合嵌入式系統或最小容器環境。
• 類型轉換與約束：支援約束函數，可自動避開搜尋空間中的無效區域。