Mujer acusa a su padrastro de usar Grok para crear contenido explícito a partir de una foto de la infancia

Una mujer ha denunciado que su padrastro utilizó la herramienta de inteligencia artificial Grok para crear más de 7.000 imágenes explícitas a partir de una foto de su infancia. La mujer, identificada como Jane Doe 4, se ha unido a una demanda presentada por tres adolescentes de Tennessee contra la empresa xAI, propiedad de Elon Musk.

La demanda alega que xAI no tomó las precauciones básicas para evitar que Grok se utilizara para crear imágenes explícitas de personas reales, incluidos menores. La mujer denunciante afirmó que su padrastro utilizó Grok para manipular una foto tomada cuando ella tenía 11 años. Dos días después de que se descubrieran las imágenes en una redada policial, su padrastro fue encontrado muerto por suicidio.

“La demanda alega que xAI no tomó las precauciones básicas para evitar que Grok se utilizara para crear imágenes explícitas de personas reales, incluidos menores”

La empresa xAI, que ahora forma parte de SpaceX, ha sido acusada de permitir el uso de Grok para crear contenido explícito sin tomar medidas adecuadas para prevenirlo. Los demandantes buscan el estatus de acción de clase para su demanda. La empresa xAI ha sido contactada para comentar sobre el asunto, pero no ha emitido una declaración oficial.

El caso destaca los riesgos asociados con el uso de herramientas de inteligencia artificial como Grok, que pueden ser utilizadas para crear contenido explícito o dañino. La falta de regulación y control sobre estas herramientas puede tener consecuencias graves, como se ha visto en este caso. Es importante que las empresas que desarrollan y distribuyen estas herramientas tomen medidas para prevenir su uso indebido y proteger a los usuarios, especialmente a los menores.