Por estrategiaynegocios.net
La foto muestra el rostro de una joven de pelo largo y oscuro y sonrisa suave que dice “sentirse guapa hoy :)”. Y en Reddit -donde Claudia, que así se llama, se ofrece a vender fotos de desnudos a cualquiera que le envíe un mensaje privado- es bastante popular: “Joder, eres preciosa”, decía un usuario
Pero Claudia es falsa: un conjunto de fotos sorprendentemente convincentes creadas por herramientas de imagen de inteligencia artificial, posiblemente para sacar dinero a compradores desprevenidos, según dos investigadores de medios sintéticos.
Los rápidos avances de los generadores de imágenes de inteligencia artificial, como Midjourney y Stable Diffusion, han acaparado la atención mundial en las últimas semanas por sus ingeniosas obras de arte e impresionantes falsificaciones de ex presidentes y papas.
Pero el caso de Claudia deja entrever el lado más explícito de la tecnología: al permitir a cualquiera crear imágenes de personas falsas que parecen increíblemente reales, estas herramientas están cambiando la forma de hacer y consumir porno.
Durante años, las nuevas tecnologías han sido pioneras a través del porno, y las herramientas de imagen por IA no han roto ese patrón. Actualmente hay miles de cuentas registradas en foros de debate y salas de chat dedicadas a la creación y el perfeccionamiento de personas sintéticas, la mayoría de las cuales se parecen a niñas y mujeres, un rápido cambio que podría poner patas arriba una industria multimillonaria, socavar la demanda de modelos y actores del mundo real y alimentar preocupaciones más profundas sobre la cosificación y la explotación de la mujer.
Los investigadores identificaron varios perfiles en línea de mujeres que creen que son avatares falsos basándose en los artefactos reveladores que algunos generadores de imágenes de IA dejan tras de sí. A través de perfiles en Instagram, Reddit, Twitter y OnlyFans, las cuentas compartían imágenes de mujeres en distintos estados de desnudez e indicaban a los espectadores que debían pagar o suscribirse si querían ver más.
Las presuntas cuentas falsas no respondieron a las preguntas. Y como la mayoría de las imágenes generadas por IA no llevan marca de agua ni huella digital alguna en el momento de su creación, puede resultar difícil para cualquier espectador confirmar si son reales o no.
Muchas de las imágenes falsas más recientes se basan en programas de inteligencia artificial, conocidos como modelos de difusión, que permiten a cualquiera teclear una breve retahíla de palabras y crear una foto falsa de forma gratuita. A continuación, las imágenes pueden editarse aún más para hacerlas más convincentes, incluso para tapar fallos y perfeccionar su calidad.
Las herramientas son incluso más fáciles de usar que el software de “deepfake” que alimentó las preocupaciones sobre las imágenes de IA en 2017. Mientras que los deepfakes utilizaban técnicas de IA de aprendizaje profundo para editar vídeos existentes, los modelos de difusión generan fotos completamente nuevas siguiendo los patrones encontrados en los miles de millones de imágenes que han analizado anteriormente.
Pero la nueva clase de imágenes plantea muchas de las mismas preocupaciones, incluida la posibilidad de que se utilicen para suplantar a mujeres reales. En algunos foros, los usuarios hablan de cómo utilizar modelos de difusión y otras técnicas basadas en la IA, como el “inpainting”, para superponer los rostros de mujeres reales a los cuerpos de las imitaciones generadas por la IA.
“Para humillar y expulsar a las mujeres de la esfera pública, ni siquiera necesitan parecerse exactamente a ellas. Se basan en el efecto de choque”, afirma Sam Gregory, director ejecutivo de Witness, un grupo sin ánimo de lucro especializado en tecnología de vídeo y derechos humanos.
Stability AI, la start-up londinense que está detrás de Stable Diffusion, prohíbe a la gente utilizarla para crear imágenes que una “persona razonable podría considerar obscenas, lascivas... [o] pornográficas”.
Pero como la empresa ha puesto la herramienta a disposición de todo el mundo para que la descargue en su ordenador, no tiene forma de impedir que alguien la utilice para hacer lo que quiera.
Con información de Infobae
