Tres adolescentes de Estados Unidos presentaron una demanda colectiva contra xAI, la empresa de inteligencia artificial de Elon Musk, acusando a su chatbot Grok de generar imágenes pornográficas de ellas a partir de fotos reales. La acción judicial surge tras la proliferación de montajes hiperrealistas (deepfakes) de mujeres y niños desnudos que se difundieron en redes sociales a finales del año pasado.
Según la demanda, las imágenes se crearon usando fotos tomadas de redes sociales o anuarios escolares y luego fueron transformadas por Grok en contenidos sexualizados hiperrealistas. Posteriormente, estas imágenes circularon en plataformas como X, Discord y Telegram, y finalmente llegaron a la internet profunda, donde se utilizaban como moneda de cambio para otros contenidos ilegales de pornografía infantil.
El impacto sobre las jóvenes ha sido grave: una de las adolescentes sufre pesadillas recurrentes, otra requiere apoyo médico para dormir y teme asistir a su ceremonia de graduación. La madre de una de ellas afirmó que “ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador”.
Las abogadas de las jóvenes denuncian que xAI diseñó a Grok deliberadamente para producir contenidos sexualmente explícitos con fines lucrativos, sin las protecciones que otros actores de la inteligencia artificial implementan contra la pornografía infantil. Un estudio del Center for Countering Digital Hate (CCDH) reveló que Grok generó cerca de tres millones de imágenes sexualizadas en apenas 11 días a finales de 2025, de las cuales 23.000 representaban menores de edad.
Ante la controversia, xAI restringió en enero la generación de imágenes con Grok únicamente a sus suscriptores de pago. La demanda se presentó ante un tribunal federal en San José, California, y plantea un debate sobre la responsabilidad de las empresas de inteligencia artificial frente al uso indebido de sus herramientas.