LIME (Local Interpretable Model-agnostic Explanations) explica una predicción específica de un modelo complejo generando pequeñas variaciones de esa observación, observando cómo cambia la predicción del modelo ante esas variaciones, y ajustando un modelo simple (como una regresión lineal) que aproxime ese comportamiento localmente.
Su diferencia con SHAP
Mientras que SHAP ofrece garantías matemáticas más rigurosas y consistentes, LIME es conceptualmente más simple e intuitivo, aunque sus explicaciones pueden variar más entre distintas ejecuciones, ya que dependen de las variaciones aleatorias generadas alrededor de cada observación específica.