Minnesota le dice al tribunal que Grok no merece la protección de la Primera Enmienda

Según Decrypt, el fiscal general de Minnesota, Keith Ellison, presentó el viernes un escrito oponiéndose al intento de xAI de bloquear la ley HF 1606, la primera ley estatal en el país que restringe las herramientas de IA que generan imágenes sexuales de personasdent.

Ellison argumentó que es improbable que la empresa tenga éxito en su demanda constitucional y que no ha logrado demostrar que la aplicación de la ley causaría un daño irreparable.

Con Grok Imagine, X.AI ha creado un mercado sin precedentes para la violencia sexual digital, y el Estado estaría indefenso desde el principio a menos que pudiera dirigir sus leyes contra la propia tecnología.

– Fiscal General Keith Ellison

El argumento de Minnesota es que Grok Imagine es una herramienta y no un discurso protegido, lo que la excluiría de las consideraciones presentadas por xAI para que el juez las examine. Un juez federal celebrará una audiencia sobre el asunto el miércoles.

La ley de Minnesota apunta a los proveedores de IA incluso sin conocimiento ni intención

La ley HF 1606 prohíbe a las empresas permitir que los usuarios generen imágenes realistas que muestren partes íntimas ausentes en la fotografía original de una personadent, así como producir dichas imágenes en nombre del usuario. Las infracciones conllevan multas de hasta 500.000 dólares por imagen. Las personas retratadas pueden interponer demandas por separado.

La ley no exige que la empresa supiera de la imagen ni que la hubiera utilizado intencionadamente. La mayoría de las leyes contra los deepfakes, incluida la Ley federal para eliminarlos, penalizan a quien crea o comparte la imagen.

Texas contactó a los operadores en 2025, pero solo cuando el propietario estaba al tanto de la falta de consentimiento o no respondió a una notificación de eliminación. Minnesota eliminó el requisito del conocimiento, y esta es la disposición que xAI impugna el miércoles.

La Cámara de Representantes aprobó el proyecto de ley por 132 votos a favor y 1 en contra, y el Senado por 65 votos a favor y ninguno en contra, tras las denuncias de un hombre que utilizó fotos de redes sociales para crear imágenes sexuales de más de 80 mujeres que conocía. La ley fue promulgada en abril. xAI presentó una demanda el 27 de julio y solicitó una orden de restricción temporal el 29 de julio.

El 31 de julio, el juez Donovan Frank rechazó la petición, señalando que la empresa la había presentado casi tres meses después de la firma y tres días antes de la fecha de entrada en vigor, lo que indicaba que "el daño no es inmediato". La ley entró en vigor el 1 de agosto.

xAI afirma que las normas de Minnesota podrían criminalizar la sátira y las imágenes consensuales

La demanda no cuestiona el interés del estado en prevenir imágenes no consensuales, sino que argumenta que la ley va mucho más allá de ese interés, y el argumento se basa en una defi. El estado de Minnesota basó su defide parte íntima en una ley destinada a delitos que implican contacto corporal, según xAI, y esto abarca la parte interna de los muslos y los senos, incluyendo así trajes de baño y sátira.

La página 19 del documento contiene una imagen generada por IA que Trump compartió en Truth Social el 1 de mayo. En ella, aparece junto a JD Vance, Marco Rubio y el secretario del Interior, Doug Burgum, sin camisa, además de una mujer desconocida, en el estanque reflectante del Monumento a Lincoln. Se trata de una broma sobre el costo de las reparaciones del estanque. Según xAI, el pecho de cada hombre aparece donde antes no estaba, lo que hace que la imagen sea ilegal en Minnesota.

“Aunque los sujetos dieran su consentimiento, generaran las imágenes ellos mismos o nunca las compartieran, no existe un refugio seguro para los esfuerzos de buena fe del proveedor de herramientas creativas de IA de uso general”, dijo la compañía.

Según sus propios cálculos, diez imágenes de este tipo costarían 5 millones de dólares y cien mil alcanzarían los 50 mil millones de dólares.

El historial de Grok en materia de aplicación de la ley pone de manifiesto la magnitud del problema de los abusos

La empresa ha presentado su historial de cumplimiento como prueba de buena fe. Como Cryptopolitan informó anteriormente, xAI declaró en un documento presentado en julio que suspendió 52.222 cuentas este año y envió 73.604 informes al Centro Nacional para Niños Desaparecidos y Explotados, lo que resultó en al menos 244 arrestos en 2026.

Esas cifras también sirven para medir la magnitud del problema. Según el Centro para la Lucha contra el Odio Digital, en el lapso de 11 días entre el 29 de diciembre y el 8 de enero, después de que Musk respaldara la función de edición de la aplicación, Grok creó alrededor de 3 millones de imágenes sexualmente explícitas, incluidas unas 23.000 en las que parecían aparecer niños.

California inició una investigación el 14 de enero y envió una orden de cese y desistimiento dos días después. Treinta y cinco fiscales generales firmaron una demanda conjunta el 23 de enero. Según Ellison, cinco niños presentaron una demanda colectiva y dos familias de Arkansas interpusieron una demanda ante un tribunal federal.

La Comisión Europea inició una investigación el 27 de enero, y el chatbot ha sido prohibido en Malasia e Indonesia.

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.