Overfitting Underfitting

최적화(optimization): train data에서 최고의 성능을 얻으려고 모델을 조정하는 과정( 옵티마이저가 한다)

일반화(Generalization): 훈련된 모델이 처음 보는 데이터에서 얼마나 잘 수행되는지를 의미 

 

Overfitting 

epoch가 진행되면서 train loss는 계속 감소하지만 test loss는 증가하기 시작함. 

모델이 너무 복잡함

Underfitting 

epoch가 진행될수록 train loss , test loss 가 모두 좋지 않음. 

훈련 데이터에 특화된 패턴을 학습하기 시작하여 새로운 데이터에 대해서 잘못된 판단을 하는 경우 

 

https://ysyblog.tistory.com/111

[Deep Learning][딥러닝] DNN 성능개선