cleanUrl: "tuning-xgboost"

Xgboost 하이퍼 파라미터 튜닝

초기값 선정

초기값은 다음과 같이 선정한다.

1. max_depth = 5: 보통 4-6 를 시작점으로 한다.
2. min_child_weight = 1 : 향후에 튜닝할 것이다.
3. gamma = 0 : 0.1 - 0.2로 시작해도 된다. 그런데 어짜피 튜닝할 것이다.
4. subsample, colsample_bytree = 0.8 : 보통 0.5 - 0.9로 시작한다.
5. scale_pos_weight = 1: Because of high class imbalance.