La multiplicación de matrices combina los datos de entrada con los pesos de una red neuronal (organizados como matrices) para producir las activaciones de cada capa, siendo la operación matemática que ocurre, literalmente millones de veces, durante el entrenamiento y la ejecución de cualquier red neuronal moderna.
Por qué motivó el uso de GPU
Las GPU están diseñadas específicamente para realizar muchísimas multiplicaciones de matrices en paralelo de forma extremadamente eficiente, lo que explica por qué se volvieron el hardware preferido para entrenar modelos de deep learning, en lugar de los procesadores de propósito general tradicionales.