Un deepfake usa técnicas de IA generativa, como las GAN o los modelos de difusión, para crear videos, audios o imágenes falsificados de forma muy convincente, típicamente reemplazando el rostro o la voz de una persona por otra, o generando contenido completamente sintético de alguien diciendo algo que nunca dijo.
Por qué preocupa tanto
Además de su uso en desinformación política o suplantación de identidad, la creciente calidad y accesibilidad de estas herramientas dificulta cada vez más que una persona común distinga contenido real de contenido generado artificialmente, lo que impulsó el desarrollo de técnicas de detección y de marcado de contenido generado por IA.