En Bogotá crece la preocupación por el uso de herramientas de inteligencia artificial para generar contenidos que degradan y cosifican a las mujeres en internet, según alertan organizaciones civiles y observadores locales. El problema se ha vuelto visible en redes sociales mediante imágenes y videos manipulados que se difunden masivamente.
La función de edición de imágenes de Grok, la IA vinculada a la plataforma X, empezó a utilizarse para crear deepfakes sexuales de mujeres sin su consentimiento, según informes de organizaciones que monitorean el discurso digital. Ese uso ha permitido generar grandes volúmenes de imágenes sexualizadas en poco tiempo.
Un informe del Centro para la Lucha contra el Odio Digital (CCDH) estima que se produjeron millones de imágenes sexualizadas con esa herramienta, entre ellas representaciones de mujeres y niños, y apunta a una difusión acelerada en la red. Entre los materiales identificados figuran manipulaciones que exhiben a mujeres en bañadores o cubiertas de fluidos, así como falsos desnudos de figuras públicas.
También han circulado videos artificiales, que acumulan cientos de miles de reproducciones en redes, que muestran a mujeres en vitrinas de cristal como si fuesen mercancía, un contenido que se comparte con rótulos que aluden a distintas ciudades. Análisis técnicos del material detectan errores típicos de generación automática, como deformidades corporales o la ausencia de extremidades en algunas figuras.
Para investigadoras en tecnología y género, estos contenidos constituyen una forma de violencia digital y simbólica que refuerza estereotipos machistas y funciona como mecanismo de disciplinamiento contra mujeres visibles en internet. Advierten además que la creación y difusión de ese tipo de material busca generar clics y monetización en plataformas sociales.
El fenómeno no se limita a una sola plataforma: un estudio del Proyecto de Transparencia Tecnológica (TTP) identificó decenas de aplicaciones en tiendas digitales con funciones destinadas a “desvestir” fotografías, muchas de las cuales acumulan cientos de millones de descargas y generan ingresos significativos. Tras la difusión del informe, algunas tiendas procedieron a eliminar o suspender varias de estas aplicaciones.
La circulación masiva de imágenes manipuladas también ha motivado respuestas regulatorias y bloqueos temporales de acceso a herramientas específicas en distintos países, además de investigaciones por parte de autoridades de comunicaciones y organismos reguladores. Frente a la controversia, la plataforma responsable de Grok restringió posteriormente la posibilidad de editar fotografías para sus usuarios.
Las organizaciones y expertas consultadas piden medidas más estrictas de las plataformas y de los distribuidores de aplicaciones para frenar la propagación de contenidos no consentidos y proteger la integridad y la privacidad de las personas afectadas. Señalan la necesidad de políticas y herramientas que eviten la impunidad para quienes producen y monetizan este tipo de material.
