Datapedia
Machine Learning

Normalización por lotes (Batch normalization)

Técnica que estandariza las activaciones internas de una red neuronal durante el entrenamiento, acelerando y estabilizando el proceso.

Redes neuronalesEntrenamiento

La normalización por lotes ajusta las salidas de cada capa de una red neuronal para que tengan una media y una varianza más estables durante el entrenamiento, calculando esas estadísticas sobre cada lote (batch) de datos que se procesa.

Por qué ayuda tanto al entrenamiento

Reduce un fenómeno donde la distribución de las activaciones internas de la red cambia constantemente a medida que se ajustan los pesos de las capas anteriores, lo que permite usar tasas de aprendizaje más altas y entrenar redes profundas de forma más rápida y estable.