rodrigo-arenas/Sklearn-genetic-opt

해결하는 문제

sklearn-genetic-opt는 표준 scikit-learn 검색 도구인 GridSearchCV 및 RandomizedSearchCV에 대한 진화적 대안을 제공합니다. 이 도구는 매개변수가 상호작용할 수 있는 크고 혼합된 검색 공간에서 최적의 하이퍼파라미터와 특징 부분집합을 찾는 문제를 해결하며, 이 경우 전체 그리드 검색은 비현실적이고 무작위 검색은 비효율적입니다.

작동 방식

이 툴킷은 유전 알고리즘을 사용하여 scikit-learn 모델을 최적화합니다. 완전한 매개변수 구성(개체)을 평가하고 가장 유망한 후보를 사용하여 재조합 및 돌연변이를 통해 다음 세대의 진화를 안내합니다.

주요 메커니즘은 다음과 같습니다:

• GASearchCV: 하이퍼파라미터 튜닝을 위한 scikit-learn 호환 검색 도구.
• GAFeatureSelectionCV: 교차 검증을 사용하여 특징 부분집합을 평가하는 래퍼 기반 선택기.
• 적응형 검색: 교차 및 돌연변이 비율이 세대에 걸쳐 조정되어 탐색에서 활용으로 전환됩니다.
• 스마트 초기화: 라틴 하이퍼큐브 시딩과 추정기 기본값을 사용하여 초기 개체군을 다양화합니다.

대상 사용자

특히 혼합된 매개변수 유형(정수, 연속, 범주형)과 의심되는 매개변수 상호작용을 다룰 때, 공동 특징 선택 및 하이퍼파라미터 튜닝을 위한 재현 가능한 워크플로우가 필요한 머신러닝 실무자.

주요 특징

• Scikit-learn API: fit, predict, best_params_와 완전히 호환됩니다.
• 혼합 검색 공간: 정수, 연속, 범주형 유형을 동시에 지원합니다.
• 조기 중단: ConsecutiveStopping 및 TimerStopping과 같은 콜백을 포함하여 검색을 자동으로 종료합니다.
• 실험 추적: 후보를 하위 실행으로 기록하기 위한 MLflow 내장 통합.
• 시각화: 적합도 진화, 매개변수 상호작용 및 검색 개요 대시보드에 대한 내장 플롯을 제공합니다.
• 병렬 실행: n_jobs를 통한 후보 또는 폴드의 병렬 평가를 지원합니다.

요약

혼합 검색 공간에서 하이퍼파라미터 튜닝 및 특징 선택을 위해 유전 알고리즘을 사용하는 scikit-learn 호환 최적화 툴킷입니다.

제목

scikit-learn 모델을 위한 진화적 하이퍼파라미터 튜닝 및 특징 선택 툴킷