Mujeres son principales víctimas de pornografía falsa por cuenta de la inteligencia artificial
Las mujeres son un objetivo particular de las herramientas y aplicaciones de IA, ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos, que permiten a los usuarios retirar digitalmente la ropa de sus fotos o insertar sus rostros en videos sexualmente explícitos.
- Video | Así fue como un robot con IA convenció a otros de abandonar su trabajo
- Cómo iniciar mejor las mañanas, respuestas según la IA
Aplicaciones fotográficas que desnudan digitalmente a las mujeres, la posibilidad de crear desde una simple frase fotos de “chicas de inteligencia artificial (IA)” e imágenes manipuladas que alimentan la “extorsión sexual”: el auge de la pornografía ultrafalsa está superando esfuerzos de EEUU y Europa para regular la tecnología.
Las falsificaciones de fotos y videos cada vez más realistas basadas en IA -llamadas “deepfakes”- generalmente se asocian a personalidades conocidas, como el papa Francisco con un abrigo acolchado o Donald Trump bajo arresto, pero los expertos afirman que su uso se está extendiendo para generar pornografía no consensuada que puede destruir vidas comunes y corrientes.
Las mujeres son un objetivo particular de las herramientas y aplicaciones de IA, ampliamente disponibles de forma gratuita y sin necesidad de conocimientos técnicos, que permiten a los usuarios retirar digitalmente la ropa de sus fotos o insertar sus rostros en videos sexualmente explícitos.
“El aumento de la pornografía generada por IA y de la ‘deepfake porn’ normaliza el uso de la imagen de una mujer sin su consentimiento“, explica a la AFP Sophie Maddocks, investigadora de la Universidad de Pensilvania que estudia los abusos sexuales basados en imágenes.
“¿Qué mensaje enviamos como sociedad sobre el consentimiento cuando se puede desnudar virtualmente a cualquier mujer?“, comentó.
En un dramático video, una “streamer” estadounidense de Twitch conocida como QTCinderella lamentó la “constante explotación y cosificación” de las mujeres cuando se convirtió en víctima del “porno deepfake”. Fue acosada, agregó, por personas que le enviaban copias de las manipulaciones en las que aparecía.
El escándalo estalló en enero durante una transmisión en vivo del también “streamer” Brandon Ewing, quien fue sorprendido mirando un sitio web que contenía imágenes sexuales falsas de varias mujeres, entre ellas QTCinderella.
“No es tan simple como ‘sólo’ ser violada. Es mucho más que eso”, escribió la creadora de contenido en Twitter, ahora llamado X, añadiendo que la experiencia la había “arruinado”.
“Chicas hiperreales”
La proliferación de “deepfakes” subraya la amenaza de la desinformación habilitada por la IA, que puede dañar la reputación y provocar intimidación o acoso.
Si bien celebridades como la cantante Taylor Swift y la actriz Emma Watson han sido víctimas de la pornografía falsa, las mujeres que no están en el ojo público también son el objetivo de estos ataques.
Los medios de comunicación estadounidenses y europeos están llenos de testimonios de primera mano de mujeres, desde académicas hasta activistas, que se sorprendieron al descubrir sus rostros en videos pornográficos falsos.
Alrededor del 96% de los videos “deepfake” en línea son pornografía no consensuada y en la mayoría de ellos aparecen mujeres, según un estudio de 2019 realizado por la empresa holandesa de IA Sensity.
“El acto de la fantasía sexual, que antes era privado y que tiene lugar dentro de la mente de alguien, se transfiere ahora a la tecnología y a los creadores de contenidos en el mundo real”, dijo a la AFP Roberta Duffield, directora de inteligencia de Blackbird.AI.
Hay aplicaciones gratuitas que pueden crear “chicas hiperreales de IA“, avatares a partir de fotos reales, personalizándolas con indicaciones como “piel oscura” u otras con connotaciones sexuales.
“Rincón oscuro”
Los avances tecnológicos han dado lugar a lo que Duffield denomina una “industria artesanal en expansión” en torno al porno potenciado con IA, en la que muchos creadores de “deepfakes” aceptan solicitudes pagas para generar contenidos con una persona que el cliente elige.
El mes pasado, el FBI emitió una advertencia sobre los “esquemas de sextorsión”, en los que los estafadores capturan fotos y videos de las redes sociales para crear material falso de “temática sexual” que luego se utilizan para chantajear al usuario afectado.
El FBI añadió que entre las víctimas había menores de edad y adultos que no dieron su consentimiento.
La proliferación de herramientas de inteligencia artificial ha superado la regulación.
“Esto no es un rincón oscuro de Internet, donde se crean y comparten estas imágenes”, dijo a la AFP Dan Purcell, director ejecutivo y fundador de la empresa de protección de marcas de inteligencia artificial Ceartas.
“Está justo delante de nuestras narices. Y sí, la ley debe ponerse al día”, añadió.
En Estados Unidos, cuatro estados, incluidos California y Virginia, prohibieron la distribución de pornografía falsa, pero las víctimas suelen tener pocos recursos legales si los perpetradores viven fuera de estas jurisdicciones.
En mayo, un legislador estadounidense presentó la Ley de prevención de falsificaciones profundas de imágenes íntimas, que haría ilegal compartir pornografía falsificada sin consentimiento.
Espacios en línea populares, como Reddit, también han tratado de regular sus florecientes comunidades de pornografía con IA.
“Internet es una jurisdicción sin fronteras, y debe haber una ley internacional unificada para proteger a las personas contra esta forma de explotación”, dijo Purcell.