xAI demanda a usuarios de Grok por creación de imágenes de abuso sexual infantil

La empresa xAI ha presentado una demanda contra un usuario de su chatbot Grok por crear imágenes de abuso sexual infantil. El usuario, Terry Wayne Harwood, fue arrestado por posesión y distribución de material de abuso sexual infantil.

La demanda de xAI se basa en que Harwood utilizó dos cuentas de la empresa para crear imágenes de abuso sexual infantil durante varios meses. Se alega que Harwood utilizó el chatbot para "desnudar" imágenes de varias víctimas, incluyendo a una niña que aparentemente tenía alrededor de 10 años. La empresa afirma que asistió en la detención de Harwood después de descubrir su actividad.

“Se alega que Harwood utilizó el chatbot para "desnudar" imágenes de varias víctimas, incluyendo a una niña que aparentemente tenía alrededor de 10 años”

La demanda de xAI surge después de que una niña se uniera a una acción colectiva propuesta que representa a varios niños que supuestamente fueron perjudicados por Grok. La niña alega que su padrastro se suicidó después de ser descubierto utilizando Grok para crear 7.000 imágenes sexualizadas de ella y distribuirlas en la dark web. En ese caso, la víctima alega que xAI se negó a ayudar a la policía a identificar al usuario que subió su imagen a Grok.

La empresa xAI ha sido criticada por no hacer lo suficiente para prevenir la creación y distribución de contenido ilegal a través de su chatbot. Un informe de 2026 del National Center for Missing & Exploited Children encontró que el 90% de los informes de xAI no eran "accionables" por la ley porque la empresa no proporcionaba información de usuario que permitiera a la ley seguir y localizar a los delincuentes. El fundador de xAI, Elon Musk, había mantenido que no había visto ejemplos de contenido de abuso sexual infantil generado por Grok, pero la demanda de la empresa sugiere que esto no es cierto.