Batch Normalization — 미니배치 통계로 훈련을 안정화

Batch Normalization (배치 정규화)

Batch Normalization(BN) 은 미니배치의 평균·분산으로 각 층의 활성화를 정규화하는 기법이에요. 내부 공변량 이동(internal covariate shift)을 줄여 학습률을 높이고 수렴을 빠르게 하며, 가벼운 정규화 효과도 있어요. PyTorch·Keras·TensorFlow 모두 공식 레이어를 제공해요.

이 카테고리의 문서

  • 개요: PyTorch BatchNorm2d — 2D(컨볼루션)용 배치 정규화
  • 핵심 기능: Keras BatchNormalization — 정규화 레이어
  • 실전·API: TensorFlow BatchNormalization — tf.keras.layers.BatchNormalization

출처: https://pytorch.org/docs/stable/generated/torch.nn.BatchNorm2d.html