Para clasificar una nueva observación, KNN busca sus K vecinos más cercanos dentro del conjunto de datos de entrenamiento, según alguna medida de distancia, y le asigna la categoría más frecuente entre esos vecinos (o el promedio de sus valores, en un problema de regresión).
Su principal ventaja y su costo
Es extremadamente simple de entender e implementar, y no requiere ningún proceso de entrenamiento previo real. A cambio, calcular distancias contra todo el conjunto de datos en cada predicción puede ser lento y costoso cuando el conjunto de entrenamiento es muy grande.