Qué es
Después de que una neurona artificial combina sus entradas, la función de activación transforma ese valor antes de pasarlo a la siguiente capa. Sin esta transformación, apilar muchas capas sería matemáticamente equivalente a tener una sola capa lineal, sin ninguna ganancia real de capacidad.
Funciones comunes
- ReLU: deja pasar los valores positivos tal cual y convierte los negativos en cero; es la más usada por su simplicidad y eficiencia.
- Sigmoide: comprime cualquier valor a un rango entre 0 y 1, útil para representar probabilidades.
- Tanh: similar a la sigmoide, pero en un rango entre -1 y 1.
- Softmax: convierte un conjunto de valores en una distribución de probabilidades, típica en la capa de salida de clasificadores.
Por qué importa
Elegir bien la función de activación afecta directamente qué tan rápido y establemente aprende una red. Es una de las decisiones de diseño más básicas, pero con mayor impacto, al construir una arquitectura de deep learning.