Una app con I.A. capaz de intercambiar el rostro de mujeres en videos p*rno, todo al alcance de un clic y tú podrías ser una de las víctimas.

 

Te voy a ahorrar tiempo, si viniste a buscar un link de descarga no lo encontrarás en mi post. Aclarado esto, comienzo con el desarrollo.

Los investigadores de Deepfake llevan mucho tiempo temiendo que llegue este día. 

El sitio web llama la atención por su sencillez. Sobre un fondo blanco, un gigantesco botón azul invita a los visitantes a subir una foto de una cara. Debajo del botón, cuatro rostros generados por la IA permiten probar el servicio. Encima, el eslogan proclama audazmente el propósito: convertir a cualquiera en una estrella del p*rno utilizando la tecnología deepfake para cambiar la cara de la persona en un vídeo para adultos. Lo único que se necesita es la foto y pulsar un botón.

MIT Technology Review ha optado por no nombrar el servicio, al que llamaremos Y, ni utilizar citas directas ni capturas de pantalla de su contenido, para evitar atraer tráfico al sitio. El investigador de deepfakes Henry Ajder, que ha seguido la evolución y el auge de los medios de comunicación sintéticos en Internet, lo descubrió y nos llamó la atención.

Por el momento, Y existe en una relativa oscuridad, con una pequeña base de usuarios que dan su opinión sobre el desarrollo del creador en foros online. Pero los investigadores han temido que surja una aplicación como ésta, que rompa una línea ética que ningún otro servicio ha cruzado antes.

Desde el principio, los deepfakes, o medios sintéticos generados por la IA, se han utilizado principalmente para crear representaciones p*rnográficas de mujeres, que a menudo encuentran esto psicológicamente devastador. A día de hoy, la empresa de investigación Sensity AI estima que entre el 90% y el 95% de todos los vídeos deepfake en línea son p*rno no consentido, y alrededor del 90% de ellos están protagonizados por mujeres.

A medida que la tecnología ha ido avanzando, también han surgido numerosas herramientas fáciles de usar y sin código, que permiten a los usuarios "desnudar" los cuerpos femeninos en las imágenes. Muchos de estos servicios se han visto obligados a desaparecer, pero el código sigue existiendo en repositorios de código abierto y ha seguido resurgiendo en nuevas formas. El último de estos sitios recibió más de 6,7 millones de visitas en agosto, según la investigadora Genevieve Oh, que lo descubrió. Todavía no se ha desconectado.

Ha habido otras aplicaciones de intercambio de rostros con una sola foto, como ZAO o ReFace, que colocan a los usuarios en escenas seleccionadas de películas convencionales o vídeos pop. Pero Y es la primera aplicación dedicada al intercambio de rostros con fines p*rnográficos, y lleva esto a un nuevo nivel. Está "hecha a medida" para crear imágenes p*rnográficas de personas sin su consentimiento, dice Adam Dodge, fundador de EndTAB, una organización sin ánimo de lucro que educa a la gente sobre el abuso con tecnología. Esto facilita que los creadores mejoren la tecnología para este caso de uso específico y atrae a personas que de otro modo no habrían pensado en crear p*rno deepfake. "Siempre que te especializas así, creas un nuevo rincón de Internet que atrae a nuevos usuarios", dice Dodge.

Y es increíblemente fácil de usar. Una vez que el usuario sube una foto de un rostro, el sitio abre una biblioteca de vídeos p*rno. La gran mayoría son de mujeres, aunque un pequeño puñado también son de hombres, sobre todo en p*rno gay. El usuario puede entonces seleccionar cualquier vídeo para generar una vista previa del resultado del cambio de cara en cuestión de segundos, y pagar para descargar la versión completa.

Los resultados están lejos de ser perfectos. Muchos de los intercambios de caras son obviamente falsos, con los rostros brillando y distorsionándose al girar en diferentes ángulos. Pero para un observador casual, algunos son lo suficientemente sutiles como para pasar, y la trayectoria de los deepfakes ya ha demostrado lo rápido que pueden llegar a ser indistinguibles de la realidad. Algunos expertos sostienen que la calidad del deepfake tampoco importa realmente, porque el efecto psicológico en las víctimas puede ser el mismo en ambos casos. Además, muchos ciudadanos desconocen la existencia de esta tecnología, por lo que incluso los intercambios de rostros de baja calidad pueden ser capaces de engañar a la gente.

Hasta el día de hoy, nunca he conseguido del todo que se retire ninguna de las imágenes. Para siempre, eso estará ahí fuera. No importa lo que haga.

Y se presenta como una herramienta segura y responsable para explorar las fantasías sexuales. El lenguaje del sitio anima a los usuarios a subir su propia cara. Pero nada impide que suban las caras de otras personas, y los comentarios en los foros en línea sugieren que los usuarios ya lo han hecho.

Las consecuencias para las mujeres y las niñas que son objeto de esta actividad pueden ser devastadoras. A nivel psicológico, estos vídeos pueden resultar tan violentos como el p*rno de venganza, es decir, vídeos íntimos reales grabados o difundidos sin consentimiento. "Este tipo de abuso, en el que la gente tergiversa tu identidad, tu nombre y tu reputación y los altera de forma tan violenta, te destroza por completo", dice Noelle Martin, una activista australiana que ha sido objeto de una campaña de deepfake p*orn.

Y las repercusiones pueden acompañar a las víctimas de por vida. Las imágenes y los vídeos son difíciles de eliminar de Internet, y se puede crear nuevo material en cualquier momento. "Afecta a tus relaciones interpersonales; te afecta a la hora de conseguir trabajo. En cada entrevista de trabajo a la que te presentas, puede salir a relucir esto. Las posibles relaciones románticas", dice Martin. "A día de hoy, nunca he conseguido que se retire ninguna de las imágenes. Para siempre, eso estará ahí fuera. Haga lo que haga".

A veces es incluso más complicado que el p*rno de venganza. Como el contenido no es real, las mujeres pueden dudar si merecen sentirse traumatizadas y si deben denunciarlo, dice Dodge. "Si alguien se debate entre si es realmente una víctima, eso perjudica su capacidad de recuperación", dice.

El deepfake p*rn no consentido también puede tener repercusiones económicas y profesionales. Rana Ayyub, una periodista india que fue víctima de una campaña de deepfake p*rn, recibió un acoso en línea tan intenso tras el suceso que tuvo que minimizar su presencia en línea y, por tanto, el perfil público necesario para realizar su trabajo. Helen Mort, poetisa y locutora residente en el Reino Unido, que ya compartió su historia con MIT Technology Review, dijo que se sintió presionada a hacer lo mismo tras descubrir que habían robado fotos suyas de cuentas privadas de redes sociales para crear desnudos falsos.

La Revenge P*rn Helpline, financiada por el gobierno del Reino Unido, recibió recientemente el caso de una profesora que perdió su trabajo después de que se difundieran imágenes p*rnográficas falsas de ella en las redes sociales y se pusieran en conocimiento de su escuela, dice Sophie Mortimer, que gestiona el servicio. "Está empeorando, no mejorando", dice Dodge. "Cada vez más mujeres son objeto de este tipo de ataques".

La opción de Y para crear p*rno gay deepfake, aunque limitada, supone una amenaza adicional para los hombres en los países donde la homosexualidad está penalizada, dice Ajder. Este es el caso de 71 jurisdicciones en todo el mundo, 11 de las cuales castigan el delito con la muerte.

Ajder, que ha descubierto numerosas aplicaciones de deepfake p*rn en los últimos años, dice que ha intentado ponerse en contacto con el servicio de alojamiento de Y y forzar su desconexión. Pero se muestra pesimista a la hora de evitar que se creen herramientas similares. Ya ha aparecido otro sitio que parece intentar lo mismo. Piensa que prohibir este tipo de contenidos en las plataformas de medios sociales, y quizás incluso hacer ilegal su creación o consumo, sería una solución más sostenible. "Eso significa que estos sitios web son tratados de la misma manera que el material de la web oscura", dice. "Incluso si se lleva a la clandestinidad, al menos lo pone fuera de los ojos de la gente común".

Y no respondió a las múltiples solicitudes de comentarios en el correo electrónico de prensa que aparece en su sitio. La información de registro asociada al dominio también está bloqueada por el servicio de privacidad Withheld. El 17 de agosto, después de que MIT Technology Review hiciera un tercer intento de contactar con el creador, el sitio puso un aviso en su página de inicio diciendo que ya no está disponible para nuevos usuarios. El 12 de septiembre, el aviso seguía ahí.

Fuente:Technologyreview.com