Neural net이 working하지 않는 37가지 이유

원문: https://blog.slavv.com/37-reasons-why-your-neural-network-is-not-working-4020854bd607

잘 안되면,

먼저 해볼 것

1. 동작한다고 알려진 모델을 가져다가 해본다. 평이한 loss를 쓰면 더 좋다
2. regularization, data augmentation 등 모두 off
3. finetuning하고 있다면, preprocessing을 다시한번 체크하라. 원래 모델에게 주어진 preprocessing 그대로 해야 한다.
4. input data가 correct한지 확인
5. 적은 데이터셋(2~20샘플)으로 시작하라. 그 데이터셋에 overfit시킨 다음 조금씩 데이터를 더해보라.
6. 위에서 빼놓은 것들을 더해간다. regularization, data augmentation, custom loss, complex models, etc.

그래도 안되면 다음을 점검하라