Deep learning/Error

Keras Tuner hyperband only trains 2 epochs

비비이잉 2021. 8. 25. 16:10
반응형

아니 학습이 tuner initial epoch : 0 tuner epoch : 2 총 2 epoch 까지밖에 안되길래 찾아봣는데 원래 이런방식이라는 stack overflow ... 그전에 했을때는 max epoch = 50까지 넣으면 25부터 시작해서 알아서 해주던데 

 

또 방법을 찾아보자 

 

 

 

왜그랬냐 봤더니 hyperband tuner는 초반에 작은 epoch로 학습을 한다음에 좋은거를 찾아서 더 훈련시키기 때문이라고 한다. 

 

이전에 돌린 걸 보면 76 Trial이 있고 그래서 max epoch = 50으로 설정해두니까 25부터 알아서 학습을 더 진행한 것 같다. 

 

지금 돌리고 있는 코드도 여러번 trial을 시도하다 보면 나중에는 더 많은 epoch로 학습을 진행하지 않을까 하는 예상... 

 

실제로 테스트 해보니까 36trial 까지는 epoch 2씩 돌아가고 37부터는 총 6epoch에 initial epoch 가 3부터 시작하는 걸로 학습을 진행한다 trial이 늘어나면 늘어날수록 위에 사진과 같이 시작 에포크와 얼마만큼의 에포크를 돌릴지 조정하면서 학습을 진행하는 방식인 것 같다. 

반응형