En la validación leave-one-out, con un conjunto de N observaciones, se entrena el modelo N veces, dejando en cada ronda una única observación distinta como conjunto de prueba y usando las N-1 restantes para entrenar, promediando finalmente el error obtenido en las N rondas.
Cuándo se usa a pesar de su costo computacional
Es especialmente útil cuando el conjunto de datos disponible es muy pequeño, ya que aprovecha al máximo cada observación para entrenar, aunque su alto costo computacional (entrenar el modelo tantas veces como observaciones existan) la hace poco práctica con conjuntos de datos grandes.