Un falso anuncio en el que aparece Emma Watson sonriendo tímidamente e inclinándose hacia la cámara pareciendo incitar a un acto sexual está circulando por Facebook e Instagram en los últimos días.
Pero, la del video no es la estrella de Harry Potter, es un filme que pertenece a una campaña masiva de una aplicación de deepfake.
El deepfake es una manipulación y modificación artificial con el fin de que una persona en una imagen o video existente sea reemplazada por otra persona. En este proceso se aprovechan técnicas del aprendizaje automático y la inteligencia artificial para manipular o generar contenido visual y de audio engañoso.
En el campo de la pornografía, cada vez más la tecnología se ha utilizado para crear contenido no consentido con rostros de celebridades, políticos o gente común, incluidos menores de edad.
Aunque en un principio esta tecnología era muy avanzada, ahora está al alcance de todos ya que hay aplicaciones de fácil consumo dedicadas a crear deepfake.
Anuncios sexuales de Emma Watson en las redes de Meta
Si bien las redes sociales prohíben el contenido falso y manipulado, algo pasó con Meta que permitió los anuncios de una supuesta Emma Watson sexy.
De acuerdo con un reporte de NBC News, entre domingo y lunes una aplicación para crear videos llamada DeepFake FaceSwap publicó más de 230 anuncios en los servicios de Meta, incluidos Facebook, Instagram y Messenger. Esta publicidad fue borrada de la plataforma el martes.
De estos anuncios 127 mostraron la cara de Watson. El resto de los videos mostraron supuestos videos pornográficos de Pornhub y luego rostros de mujeres se cambiaron con caras de famosos.
“Reemplace la cara con cualquiera. Diviértete con la tecnología de cambio de cara de IA”, decían los subtítulos en 80 de los anuncios.
“Esto podría arruinar la vida de alguien. Podrían meterse en problemas en su trabajo. Y esto es extremadamente fácil de hacer y gratis. Todo lo que tenía que hacer era subir una foto de mi cara y tenía acceso a 50 plantillas gratuitas”, comentó Lauren Barton, una estudiante de periodismo en Tennessee.
Todo esto sucedió aunque en sus políticas Meta prohíbe desde el 2020 el uso del deepfake y la pornografía en anuncios.
“Nuestras políticas prohíben el contenido para adultos, independientemente de si es generado por IA o no, y hemos restringido esta página de publicidad en nuestra plataforma”, expresó un portavoz de Meta en un comunicado.
