Adolescentes demandan a xAI por chatbot Grok que generó imágenes porno

Tres adolescentes en Estados Unidos presentaron el lunes una demanda colectiva contra xAI, la empresa de inteligencia artificial de Elon Musk, tras acusar a su chatbot Grok de haber generado imágenes pornográficas de ellas a partir de fotos reales, anunciaron sus abogadas.

Esta acción judicial está relacionada con la proliferación a finales del año pasado de montajes hiperrealistas (deepfake, en inglés) de mujeres y niños desnudos.

La aparición de esas imágenes en redes sociales provocó una ola de indignación mundial y la apertura de investigaciones en varios países y en California.

La demanda cita el caso de una persona ya detenida, que utilizó Grok para transformar fotos ordinarias de las jóvenes, tomadas de redes sociales o de anuarios escolares, en imágenes sexualizadas hiperrealistas.

Impacto y consecuencias del uso de Grok

Estos montajes circularon luego en X, Discord y Telegram, y después migraron a la internet profunda (dark web) como moneda de cambio para otros contenidos de pornografía infantil, señala la demanda presentada ante un tribunal federal de San José (California).

«Ver a mi hija sufrir un ataque de pánico al darse cuenta de que esas imágenes habían sido creadas y difundidas sin ninguna esperanza de borrarlas fue desgarrador», dice en un comunicado la madre de una de las adolescentes, del estado de Tennessee.

Una de las demandantes sufre pesadillas recurrentes, otra necesita apoyo médico para poder dormir y teme asistir a su ceremonia de graduación.

xAI «diseñó deliberadamente Grok para producir contenidos sexualmente explícitos con fines lucrativos», sin implementar las protecciones utilizadas por otros grandes actores de la IA contra la pornografía infantil, denuncian las abogadas.

Según un estudio del Center for Countering Digital Hate (CCDH), Grok habría generado cerca de tres millones de imágenes sexualizadas en tan solo 11 días a finales de 2025, de las cuales 23,000 representaban menores de edad.

Ante el escándalo, xAI restringió a mediados de enero la generación de imágenes con Grok únicamente a sus suscriptores de pago.