SimonBlanke/Gradient-Free-Optimizers

解决的问题

Gradient-Free-Optimizers (GFO) 为无法获取梯度、不切实际或根本不存在梯度的「黑箱」函数提供了一种统一的优化方法。它简化了在包含连续、离散、分类和分布型数据的复杂搜索空间中，寻找给定目标函数最优参数的过程。

工作原理

该库实现了23种不同类型的优化算法，分为局部搜索、全局搜索、基于种群和基于序列模型的方法（如贝叶斯优化）。用户定义一个需要最大化的目标函数和一个搜索空间。优化器随后提出参数，通过目标函数进行评估，并利用其内部策略迭代改进得分。

适用人群

专为从事机器学习模型超参数调优、仿真优化、特征选择和工程设计的开发者和研究人员设计。

主要亮点

• 统一 API：仅需修改一行代码即可在23种不同算法间切换。
• 混合搜索空间：支持连续范围、离散网格、分类选择以及 SciPy 分布在同一空间中使用。
• 内置缓存：通过缓存避免对昂贵目标函数的重复评估。
• 依赖极少：仅需 NumPy 和 pandas，适合嵌入式系统或最小容器环境。
• 类型转换与约束：支持约束函数，可自动避开搜索空间中的无效区域。