facebookresearch/nevergrad

解决的问题

提供了一种无需梯度即可最小化函数的方法，这对于优化超参数或复杂函数至关重要，尤其在无法获得相同数学导数的情况下。

工作原理

该库使用多种无梯度优化算法来寻找给定函数的最小值。用户可以定义一个搜索空间（参数化），其中可包含连续变量、整数和分类选择（例如 "conv" 与 "fc"）。

适用人群

需要优化机器学习模型或其他数学函数参数，但传统基于梯度的方法不适用的研究人员和开发者。

主要亮点

• 支持有界连续变量、离散变量以及不同输入类型的混合。
• 提供简单API，仅需少量代码即可最小化函数。
• 灵活的参数化系统，可处理对数分布的标量、整数和选择项。
• 无梯度方法，适用于各种复杂的优化问题。