Por Jorge Manrique, Rector del Colegio Jurista y director general de Gobierno de Calidad, consultoría de políticas públicas

Los fraudes por deepfake en México podrían crecer hasta en un 300% en 2024, mientras 7 de cada 10 mexicanos no saben lo que es ni lo que supone.

Los deepfakes son un producto de la inteligencia artificial, que tienen el poder de crear contenidos falsos increíblemente realistas como imágenes, audio y vídeos.

Aunque existen usos legítimos, como en los videojuegos y el entretenimiento, también tiene un lado más oscuro. Por ejemplo, difundir rápidamente información falsa.

La legalidad de los deepfakes es compleja. Por lo general, los deepfakes son lícitos, a menos que entren en conflicto con normativas vigentes como la explotación infantil, la difamación o el discurso del odio.

Aunque los principales blancos de los ciberdelincuentes para aplicar esta estafa son empresas, figuras públicas y políticos, los usuarios comunes también pueden llegar a serlo.

A través del deepfake, los ciberdelincuentes buscan tener acceso fácil a datos confidenciales, particularmente información de celulares, contraseñas y documentos, e incluso pueden llegar a crear fotografías íntimas falsas como método de extorsión.

Para evitar caer en estos fraudes, es conveniente: Evitar publicar fotografías en redes sociales que muestren el rostro de la persona o de la empresa donde trabajan, crear contraseñas distintas para correos laborales y personales y cuidar las descargas de páginas o apps de poca confianza así como instalar sistemas de ciberseguridad y antivirus

Vale mencionar que tan solo en el primer mes de este 2024, se encontraron más de 4 mil reportes en la CDMX por fraude digital, la mayoría de ellos ocurriendo a través de redes sociales, sitios web e incluso vía telefónica y mensajes de texto.

A pesar de que el ecosistema digital es variado, la categoría que resulta más afectada por estos ataques es la de moda. Los ataques a las compras relacionadas crecieron 19%, específicamente en torno al volumen de ventas.

El proceso de creación de deepfakes implica el uso de técnicas avanzadas de aprendizaje automático, como las redes generativas adversariales (GAN) y los autocodificadores, para crear y perfeccionar contenidos falsos.

Con la ayuda de herramientas como Deep Art Effects, Deepswap, Deep Video Portraits, FaceApp, FaceMagic, MyHeritage, Wav2Lip, Wombo y Zao, cada vez es más fácil generar deepfakes en poco tiempo. Como resultado, la necesidad de métodos eficaces de detección y prevención es más crucial que nunca.