La robustez adversarial mide qué tan bien resiste un modelo ante intentos deliberados de manipular su comportamiento mediante entradas especialmente diseñadas para confundirlo, en lugar de fallar solo ante ruido o errores naturales del mundo real.
Por qué es una preocupación creciente
A medida que los sistemas de IA se usan en aplicaciones críticas de seguridad —reconocimiento facial, vehículos autónomos— garantizar que no puedan ser engañados fácilmente por actores maliciosos se volvió un requisito de seguridad tan importante como su precisión general.