그리드 서치(Grid Search)란?
2주차 교차검증을 배우면서 데이터셋을 학습데이터, 검증데이터, 테스트 데이터로 나누어 학습 데이터로 학습한 모델을 검증데이터로 테스트하면서 최적의 하이퍼 파라미터 쌍을 찾는다는 것을 알 수 있었다. 이 과정을 하이퍼파라미터 튜닝이라고 부른다.
이러한 최적의 하이퍼 파라미터 쌍을 찾는 방법은 간단하게 하나하나씩 하이퍼 파라미터 쌍을 대입해보면서 가장 좋은 성능을 보이는 쌍을 찾으면 될 것 같다. 하지만, 보통 하이퍼 파라미터의 입력값은 실수(real number)인 경우가 많으므로, 무한이 많은 파라미터 쌍들을 다 대입할 수는 없는 노릇이다. 이를 해결할 수 있는 한가지 방법으로는 유한개의 후보 쌍들을 미리 설정하여 이들의 가능한 모든 조합을 대입해 보는 방법이 있다.
만약 2개의 하이퍼 파라미터 쌍의 조합들을 탐색해본다면 아래와 같은 격자(grid)와 같으므로 이를 그리드 서치(grid search)라고 부른다.
.png&blockId=d87d8a93-4657-4a8d-927e-aa1f755f9c5c)
Q1. 다른 하이퍼파라미터 튜닝 기법도 찾아보자.