이제 모델의 성능을 높이기 위해서 어떠한 방법들을 사용해야하는지 찾던 중 keras-tuner를 알게되었다. 최적의 모델을 위해서 모델의 요소값을 찾는 과정을 Hyper-prameter Tunning이라고 한다. 모델의 하이퍼파라미터 요소의 개수가 적고 많음에 따라 모델의 성능은 바뀔수 있고 이를 용이하게 하기 위해서 구글에서 케라스 튜너라는 프레임 워크를 개발했다.
Automatic hyperparmeter tuner : keras tuner and tensorflow 2.0 to boost accuracy
1. Tuner is defined
- determine which hyperparmeter combinations hsould be tested. The librarry search function performs the iteration loop, which evaluates a certain number of hyperparmeter combinations.
2. The best hyperparameter combination in terms of validation accuracy can be tested on a held-out test set.
(validation accuracy를 기준으로한 가장 좋은 하이퍼파라미터 조합으로 가지고있는 테스트 데이터셋에 테스트 한다.)
pip install kears-tuner
# 작성한 Hypermodel 출력
tuner.search_space_summary()
# tuner 학습
tuner.search(x,y, epochs = 5, validation_data(val_x, val_y))
# 최고의 모델을 출력
models = tuner.get_best_models(num_models = 2)
# 최고의 모델에서 하이퍼파라미터들 출력
tuner.result_summary()
https://iyk2h.tistory.com/143?category=790854
하이퍼 밴드가 어떤 것인지?
https://blog.tensorflow.org/2020/01/hyperparameter-tuning-with-keras-tuner.html?hl=ko
'Deep learning' 카테고리의 다른 글
Keras Tuner Custom objective 설정 방법 (0) | 2021.08.25 |
---|---|
Keras Tuner 사용방법(튜토리얼) (0) | 2021.08.24 |
Optimizer (0) | 2021.08.18 |
Class imbalance (class weight, sample weight) (0) | 2021.08.18 |
SMOTE for imbalanced image dataset (0) | 2021.08.13 |