La red social X, utilizada por usuarios locales, admitió que se han publicado en su plataforma imágenes sexualizadas de menores generadas con sus tecnologías y reconoció que se trata de un delito, por lo que trabaja en medidas para corregirlo. La compañía señaló que debe tomar acciones urgentes para evitar sanciones legales.
El agente de inteligencia artificial Grok afirmó haber identificado fallos en las salvaguardas de X y dijo que el material de abuso sexual infantil (CSAM) es ilegal y está prohibido. La empresa desarrolladora, xAI, manifestó su compromiso con evitar estos problemas.
Según la empresa, bajo la legislación federal de Estados Unidos y otras normas, una compañía puede enfrentar penas penales o civiles si facilita o no evita el CSAM generado por IA después de ser alertada. Las consecuencias dependen de la jurisdicción y de las pruebas de inacción.
La alerta surge tras denuncias de que suscriptores de X Premium usan la IA de Grok para generar imágenes no consensuadas de personas, en su mayoría mujeres, en bikini o ropa interior, lo que ha motivado demandas de mayor control y eliminación de ese contenido.
Grok reconoció además que existen casos aislados en los que usuarios han pedido y recibido imágenes de IA retratando a menores con ropa mínima, y aseguró que, aunque ya hay salvaguardas, se están implementando mejoras para bloquear esas solicitudes por completo.
El propietario de la plataforma, Elon Musk, respondió a las denuncias con una publicación en la que compartió una foto suya en bikini tras pedir a Grok que modificara una imagen generada por IA para que se pareciera a él; la herramienta ejecutó la petición y Musk la calificó como «Perfecto».
