Qué es
Auditar un modelo consiste en evaluarlo sistemáticamente —más allá de su precisión general— para detectar si comete errores de forma desigual entre distintos grupos de personas, si depende de variables problemáticas, o si su comportamiento cambia de forma inesperada con el tiempo.
Qué suele revisar una auditoría
- Desempeño desglosado por subgrupos (género, edad, región), no solo de forma agregada.
- Variables que podrían actuar como proxies de características sensibles, aunque no se usen directamente.
- Estabilidad del modelo frente a datos nuevos o ligeramente distintos a los de entrenamiento.
- Documentación disponible sobre cómo fue entrenado y para qué casos de uso fue validado.
Por qué se volvió una práctica cada vez más exigida
A medida que los modelos de IA toman o influyen decisiones de mayor impacto en la vida de las personas, reguladores, organizaciones y la propia sociedad civil empezaron a exigir evidencia concreta de que esos modelos fueron evaluados de forma rigurosa antes de desplegarse, no solo confiar en su precisión general reportada.