Deep learning

Keras Tuner 케라스 튜너 설치

비비이잉 2021. 8. 23. 09:13
반응형

이제 모델의 성능을 높이기 위해서 어떠한 방법들을 사용해야하는지 찾던 중 keras-tuner를 알게되었다. 최적의 모델을 위해서 모델의 요소값을 찾는 과정을 Hyper-prameter Tunning이라고 한다. 모델의 하이퍼파라미터 요소의 개수가 적고 많음에 따라 모델의 성능은 바뀔수 있고 이를 용이하게 하기 위해서 구글에서 케라스 튜너라는 프레임 워크를 개발했다. 

 

https://youtu.be/Un0JDL3i5Hg

 

Automatic hyperparmeter tuner : keras tuner and tensorflow 2.0 to boost accuracy 

 

1. Tuner is defined

- determine which hyperparmeter combinations hsould be tested. The librarry search function performs the iteration loop, which evaluates a certain number of hyperparmeter combinations. 

 

2. The best hyperparameter combination in terms of validation accuracy can be tested on a held-out test set. 

(validation accuracy를 기준으로한 가장 좋은 하이퍼파라미터 조합으로 가지고있는 테스트 데이터셋에 테스트 한다.)

 

 

pip install kears-tuner

 

 

# 작성한 Hypermodel 출력 
tuner.search_space_summary()

# tuner 학습 
tuner.search(x,y, epochs = 5, validation_data(val_x, val_y))

# 최고의 모델을 출력
models = tuner.get_best_models(num_models = 2)

# 최고의 모델에서 하이퍼파라미터들 출력
tuner.result_summary()

https://iyk2h.tistory.com/143?category=790854 

 

 

하이퍼밴드(Hyperband), Successive Halving Algorithm(SHA)의 흐름 이해하기

하이퍼 밴드는 Kerads Tuner 에서 사용되는 탐색 방법(알고리즘)의 하나이다. 가끔 요약을 미리 보면 이해하기 수월할 때가 있다. 요약 HYPERBAND는 SHA를 이용해 탐색하며 SHA의 B와 n을 일정 비율로 정

iyk2h.tistory.com

하이퍼 밴드가 어떤 것인지?

 

 

https://blog.tensorflow.org/2020/01/hyperparameter-tuning-with-keras-tuner.html?hl=ko 

 

Hyperparameter tuning with Keras Tuner

The TensorFlow blog contains regular news from the TensorFlow team and the community, with articles on Python, TensorFlow.js, TF Lite, TFX, and more.

blog.tensorflow.org

 

 

 

 

 

 

반응형

'Deep learning' 카테고리의 다른 글

Keras Tuner Custom objective 설정 방법  (0) 2021.08.25
Keras Tuner 사용방법(튜토리얼)  (0) 2021.08.24
Optimizer  (0) 2021.08.18
Class imbalance (class weight, sample weight)  (0) 2021.08.18
SMOTE for imbalanced image dataset  (0) 2021.08.13