Qué es
Un hiperparámetro es un valor que se fija antes de entrenar un modelo, en contraste con los parámetros internos del modelo (como los pesos de una red neuronal), que sí se ajustan automáticamente durante el entrenamiento a partir de los datos.
Ejemplos comunes
- La cantidad de árboles en un Random Forest.
- La tasa de aprendizaje (learning rate) que controla qué tan grandes son los ajustes durante el entrenamiento.
- La cantidad de capas y neuronas en una red neuronal.
- El valor de K en K-Means o en K-vecinos más cercanos.
Cómo se eligen
Elegir buenos hiperparámetros suele requerir probar distintas combinaciones y evaluar cada una con validación cruzada, ya sea de forma manual, con una búsqueda sistemática (grid search) o con métodos más eficientes de optimización automática.