학습률 스케줄: 학습률을 훈련 중에 바꾸는 이유

08편에서 다룬 경사하강법은 학습률(learning rate, $\eta$ 에타)이라는 하나의 값으로 매 스텝 가중치를 얼마나 움직일지 정한다. 그런데 학습률을 훈련 내내 고정된 하나의 값으로 두면 문제가 생긴다. 학습 초반에는 가중치가 정답과 멀리 떨어져 있어 큰 폭으로 움직여야 빨리 접근할 수 있지만, 학습 후반에는 이미 최적점 근처에 도달했으므로 큰 학습률을 계속 쓰면 최적점을 지나쳐 진동하거나 발산할 위험이 있다.

쉽게 말하면: 목적지에 가까워질수록 보폭을 줄여야 정확히 멈춰 설 수 있는 것과 같다.

이 문제를 해결하기 위해 훈련이 진행됨에 따라 학습률을 점차 줄여가는 방법을 학습률 스케줄(learning rate schedule)이라 부른다. 대표적인 방식은 다음과 같다.

• 계단식 감소(step decay): 정해진 에폭마다(예: 10에폭마다) 학습률을 일정 비율(예: 절반)로 뚝뚝 떨어뜨린다.
• 코사인 어닐링(cosine annealing): 학습률을 코사인 함수 모양으로 부드럽게 감소시켜, 급격한 단절 없이 서서히 줄인다.
• 웜업(warm-up): 훈련 아주 초반에는 오히려 학습률을 0에 가까운 작은 값에서 목표 학습률까지 서서히 올렸다가, 이후 본격적으로 감소시킨다. 초기 가중치가 무작위(10편의 초기화 참고)일 때 처음부터 큰 학습률을 쓰면 불안정해지기 쉬운 문제를 완화한다.

미니배치 크기의 영향

07~08편에서 다룬 것처럼, 딥러닝은 전체 데이터를 한 번에 쓰는 대신 일부씩 잘라 쓰는 미니배치(mini-batch) 단위로 경사를 계산한다. 미니배치 크기는 훈련 속도와 안정성에 다음과 같은 영향을 준다.

작은 배치가 주는 “잡음”은 09편에서 다룬 정규화(regularization)와 비슷한 효과를 낸다. 매 스텝 그라디언트가 조금씩 다르게 추정되므로, 모델이 훈련 데이터의 세부 잡음까지 딱 맞춰 외우는 것을 방해해 오히려 일반화에 도움이 되는 경우가 많다. 반대로 배치를 너무 크게 하면 그라디언트가 너무 매끈해져서 이런 효과가 줄어든다. 그래서 실무에서는 GPU 메모리가 허용하는 한도 안에서 32–256 사이의 배치 크기를 널리 사용한다.

에폭 수와 조기 종료

에폭(epoch)은 전체 훈련 데이터를 한 번 다 사용해 학습을 마친 단위를 말한다. 에폭 수를 너무 적게 주면 모델이 아직 데이터의 패턴을 충분히 배우지 못한 과소적합(underfitting) 상태로 끝나고, 너무 많이 주면 09편에서 다룬 과적합(overfitting)이 심해진다. 실무에서는 미리 정해진 에폭 수를 그대로 다 채우기보다, 09편에서 다룬 조기 종료(Early Stopping)를 함께 써서 검증 손실(validation loss)이 더 이상 좋아지지 않는 시점에 훈련을 멈춘다. 이렇게 하면 에폭 수라는 하이퍼파라미터를 정확히 미리 알지 못해도, 훈련 과정 자체가 적절한 시점을 찾아준다.

실무 파이프라인의 실행 순서

딥러닝 모델을 훈련시킬 때는 여러 요소(전처리, 증강, 정규화, 최적화, 학습률 스케줄, 조기 종료)를 특정한 순서로 조합해야 한다. 순서를 뒤바꾸면 데이터가 오염되거나 효과가 반감될 수 있다.

이 순서에서 특히 시험에 자주 나오는 함정이 두 가지 있다.

1. 분할 전에 전체 데이터로 정규화 통계를 계산하면 안 된다. 평균·표준편차 같은 정규화 통계는 반드시 훈련 세트만으로 계산하고, 그 값을 검증·테스트 세트에도 그대로 적용해야 한다. 전체 데이터로 통계를 미리 계산해버리면 검증·테스트 세트의 정보가 훈련 과정에 새어 들어가는 데이터 누수(data leakage)가 발생해, 실제보다 성능이 부풀려 보이게 된다.
2. 데이터 증강은 훈련 세트에만 적용한다. 검증·테스트 세트는 실제 배포 환경에서 마주칠 데이터를 흉내 낸 것이므로, 여기에 증강(회전·crop 등)을 적용하면 평가 자체가 왜곡된다.

쉽게 말하면: 시험 문제(검증·테스트 데이터)를 미리 훔쳐보고 공부 방법(정규화 통계)을 정하면 안 되는 것과 같다.

하이퍼파라미터 튜닝과 실험 설계

학습률, 미니배치 크기, 정규화 강도(09편의 L1/L2 계수, Dropout 비율) 등 모델이 스스로 학습하지 않고 사람이 미리 정해야 하는 값을 하이퍼파라미터(hyperparameter)라 부른다. 하이퍼파라미터를 좋은 값으로 찾아가는 과정을 하이퍼파라미터 튜닝이라 하며, 대표적인 탐색 방법은 다음과 같다.

하이퍼파라미터 튜닝의 성능 비교는 반드시 검증 세트(validation set) 기준으로 이뤄져야 한다. 테스트 세트를 튜닝 과정에서 들여다보고 하이퍼파라미터를 고르면, 테스트 세트가 사실상 훈련 과정의 일부가 되어버려 최종 성능 평가의 의미가 사라진다(이 역시 데이터 누수의 한 형태다).

독학사 스타일 응용 문제 접근법

독학사 3단계 딥러닝은 단순 암기형 문제 외에도 “다음 상황에서 어떤 조치를 우선할 것인가”를 묻는 응용·서술형 문제가 나올 수 있다. 04편에서 다룬 서술형 답안 구조(현상 파악 → 원인 진단 → 해결책 제시 → 근거 설명)를 이 과목의 실무 요소에 적용하면 다음과 같은 흐름으로 답안을 구성할 수 있다.

자주 틀리는 점

• “학습률은 훈련 내내 고정하는 것이 정석이다”는 틀린 서술이다. 학습률 스케줄(계단식·코사인·웜업)을 함께 쓰는 것이 일반적이다.
• “배치 크기를 키우면 항상 일반화 성능도 함께 좋아진다”는 틀린 서술이다. 큰 배치는 연산 효율은 높이지만 일반화 성능은 오히려 떨어질 수 있다는 경향이 보고되어 있다.
• “정규화 통계는 전체 데이터(훈련+검증+테스트)로 계산해야 더 정확하다”는 틀린 서술이다. 데이터 누수를 피하기 위해 반드시 훈련 세트만으로 계산해야 한다.
• “하이퍼파라미터 튜닝은 테스트 세트 성능을 보면서 진행해야 가장 정확하다”도 틀린 서술이다. 튜닝은 검증 세트로, 최종 평가만 테스트 세트로 단 한 번 확인하는 것이 원칙이다.

핵심 정리

• 학습률 스케줄(계단식 감소, 코사인 어닐링, 웜업)은 훈련 진행에 따라 학습률을 조절해 초반 안정성과 후반 정밀 수렴을 동시에 잡는다.
• 미니배치 크기는 그라디언트의 잡음 수준과 연산 효율, 일반화 성능 사이의 트레이드오프를 결정한다.
• 에폭 수는 조기 종료(09편)와 함께 조절해 과소적합·과적합 사이의 지점을 찾는다.
• 전처리·분할 → 훈련 세트에만 증강 → 훈련 세트 기준 정규화 → 모델 훈련 → 학습률 스케줄 → 검증 기반 조기 종료의 순서를 지켜야 데이터 누수를 막을 수 있다.
• 하이퍼파라미터 튜닝은 그리드·무작위·베이지안 탐색 중 상황에 맞게 고르되, 항상 검증 세트 기준으로 비교하고 테스트 세트는 최종 평가에만 단 한 번 사용한다.

마무리 복습

참고 자료

• Deep Learning Book — Optimization for Training Deep Models 
• scikit-learn — Model Selection and Hyperparameter Tuning