Datapedia
Machine Learning

Boosting

Técnica de ensamble que entrena modelos de forma secuencial, donde cada nuevo modelo se enfoca en corregir los errores cometidos por los modelos anteriores.

Ensamble

A diferencia de bagging, donde los modelos se entrenan de forma independiente y en paralelo, boosting los entrena uno después del otro, y cada nuevo modelo presta especial atención a los ejemplos que los modelos anteriores del ensamble no lograron predecir bien.

Su efecto principal

Al enfocarse específicamente en corregir errores previos, el boosting suele reducir tanto el sesgo como la varianza del modelo final, logrando en muchos casos una precisión superior a bagging, aunque también con mayor riesgo de overfitting si no se controla cuidadosamente la cantidad y complejidad de los modelos del ensamble.