목록hyperparameter tuning (1)

규링링링

3주차 1-3) Hyperparameters tuning in practice: Pandas vs. Caviar

한 분야에서 사용되는 하이퍼 파라미터는 다른 분야에서는 적용이 안될 수 있다. 그런데 몇몇 아이디어는 다른 분야에 도움을 줄 때도 있다. (스피치 분야 -> 자연어 처리) 데이터가 점차 바뀌거나 업데이트 과정을 통해서 하이퍼 파라미터를 변경해 줘야 할 때가 있다. 하이퍼 파라미터를 찾을때 크게 2가지 방법이 있는데. 1번째로는 1개의 모델을 babysit하는 것이다. 이것은 큰 데이터가 있지만 gpu나 cpu에 대한 자원이 없을때 사용되는 것으로 1개의 모델만 훈련시킬 수 밖에 없을 경우이다. (또는 아주 작은 수의 모델을 한번에 훈련할 수 밖에 없는 경우) 왼쪽 그림에서와 같이 day0에 해보고 다음날에 day0에 가진 데이터를 가지고 계속해서 전날에 했던 파라미터? 결과 값을 수정하면서 최소비용을 찾..
deeplearning.ai/Improving Deep Neural Networks 2019. 5. 21. 02:08
이전 Prev 1 Next 다음