facebookresearch/nevergrad

해결하는 문제

함수의 도함수가 존재하지 않거나 사용할 수 없는 경우, 기울기를 필요로 하지 않고 함수를 최소화할 수 있는 방법을 제공합니다. 이는 하이퍼파라미터 최적화나 복잡한 함수 최적화에 필수적입니다.

작동 방식

이 라이브러리는 다양한 기울기 없는 최적화 알고리즘을 사용하여 주어진 함수의 최소값을 찾습니다. 사용자는 연속 변수, 정수, 범주형 선택(예: "conv" 대신 "fc")을 포함할 수 있는 검색 공간(파라미터화)을 정의할 수 있습니다.

대상 사용자

전통적인 기울기 기반 방법이 적용되지 않는 기계학습 모델이나 기타 수학적 함수의 파라미터 최적화가 필요한 연구자 및 개발자입니다.

주요 특징

• 범위 제한된 연속 변수, 이산 변수, 다양한 입력 유형의 혼합을 지원합니다.
• 최소한의 코드로 함수를 최소화할 수 있는 간단한 API를 제공합니다.
• 로그 분포된 스칼라, 정수, 선택 사항을 처리할 수 있는 유연한 파라미터화 시스템을 제공합니다.
• 기울기 없는 접근 방식으로, 다양한 복잡한 최적화 문제에 적합합니다.