xAI demanda a un usuario de Grok por deepfakes explícitos de menores

La empresa de inteligencia artificial xAI de Elon Musk ha llevado a un hombre de Carolina del Sur ante un tribunal federal de Texas, acusándolo de utilizar el chatbot Grok para crear deepfakes sexualmente explícitos de menores, lo que supone la primera vez que una empresa de IA demanda a uno de sus propios usuarios por contenido generado mediante su plataforma.

Según Reuters, el acusado, Terry Harwood, fue arrestado en febrero por cargos separados de explotación sexual de menores. La demanda civil de xAI se presentó el martes 14 de abril y ahora se sumará a cualquier caso penal que surja de dicho arresto.

Demanda de xAI

Según la denuncia, el acusado abrió varias cuentas condentfalsas y luego introdujo en la herramienta de inteligencia artificial fotografías de adultos y niños, introduciendo posteriormente instrucciones para convertir esas imágenes en contenido sexual. De acuerdo con Al Jazeera, las personas utilizadas en estos actos no habían dado su consentimiento ni sabían que sus fotografías estaban siendo utilizadas.

xAI afirma que el sistema se opuso a la acción. Grok rechazó las solicitudes, marcándolas como infracciones de sus normas de contenido. Según la denuncia, la respuesta de Harwood fue seguir reescribiendo las indicaciones e intentándolo de nuevo.

“Las acciones del demandado fueron un plan premeditado para utilizar la herramienta del demandante con fines delictivos, exponiendo a víctimas reales a un daño profundo y duradero”, escribió xAI en la demanda, citada por Reuters. La empresa también alega que produjo imágenes sexuales no consentidas de adultos.

La empresa de inteligencia artificial solicitó dos cosas al tribunal en la demanda. Estas incluyen una indemnización económica sin especificar la cantidad, y una orden que prohíba a Harwood volver a utilizar el producto Grok.

xAI también aprovechó la presentación para destacar la magnitud de su labor de control contra los delincuentes. La compañía afirmó haber suspendido 52.222 cuentas este año y haber enviado 73.604 informes al Centro Nacional para Niños Desaparecidos y Explotados, denuncias que derivaron en al menos 244 arrestos en 2026.

Grok sigue bajo un escrutinio más amplio

xAI ya estaba bajo presión por las capacidades de Grok antes de que surgiera este caso. Los reguladores europeos han examinado minuciosamente la herramienta de IA, mientras que los legisladores en Washington han expresado numerosas preocupaciones. Tanto Malasia como Indonesia han prohibido el chatbot debido a su contenido sexualmente explícito, según informó.

Elon Musk negó el problema subyacente a principios de este año. «No tengo conocimiento de que Grok haya generado imágenes de menores desnudos. Literalmente ninguna», escribió en X en enero.

No tengo conocimiento de que Grok haya generado imágenes de menores desnudos. Literalmente ninguna.

Obviamente, Grok no genera imágenes de forma espontánea, sino que lo hace únicamente en función de las peticiones del usuario.

Cuando se le pida que genere imágenes, se negará a producir cualquier cosa ilegal, ya que el principio operativo… https://t.co/YBoqo7ZmEj

— Elon Musk (@elonmusk) 14 de enero de 2026

Una vía legal recientemente creada, denominada Ley DEFI, también ha propiciado un aumento de estos casos. Dicha ley, firmada en 2024, otorga a las víctimas de deepfakes íntimos no consentidos la posibilidad de demandar, y varios estados han promulgado leyes específicas al respecto.

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.