El olvido catastrófico ocurre cuando ajustar un modelo con datos nuevos sobrescribe, de forma abrupta y significativa, el conocimiento que había adquirido previamente, en lugar de simplemente sumar el conocimiento nuevo al ya existente.
Por qué ocurre
Las redes neuronales almacenan su conocimiento distribuido en los mismos parámetros que se ajustan durante cualquier entrenamiento posterior; sin técnicas específicas para protegerlo, ajustar esos parámetros para una tarea nueva puede degradar seriamente el desempeño en tareas anteriores que dependían de una configuración distinta de esos mismos parámetros.