Google afirma que su chatbot de inteligencia artificial Gemini se enfrenta a "ataques de destilación" a gran escala

El chatbot de inteligencia artificial Gemini de Google se ha convertido en el objetivo de un robo de información a gran escala. Los atacantes han bombardeado el sistema con preguntas para copiar su funcionamiento. Una sola operación envió más de 100.000 consultas al chatbot, intentando descubrir los patrones secretos que lo hacen inteligente.

La compañía informó el jueves que estos llamados "ataques de destilación" están empeorando. Los ciberdelincuentes envían oleadas de preguntas para descifrar la lógica de las respuestas de Gemini. Su objetivo es simple: robar la tecnología de Google para desarrollar o mejorar sus propios sistemas de IA sin invertir miles de millones en desarrollo.

Google cree que la mayoría de los atacantes son empresas privadas o investigadores que buscan avanzar sin hacer el trabajo pesado. Los ataques provienen de todo el mundo, según el informe . John Hultquist, quien dirige el Grupo de Inteligencia de Amenazas de Google, afirmó que las empresas más pequeñas que utilizan herramientas de IA personalizadas probablemente se enfrentarán pronto a ataques similares.

Las empresas tecnológicas han invertido miles de millones de dólares en el desarrollo de sus chatbots de IA. El funcionamiento interno de estos sistemas se considera una joya de la corona. Incluso con defensas para detener estos ataques, los principales sistemas de IA siguen siendo blancos fáciles, ya que cualquiera con acceso a internet puede comunicarse con ellos.

El año pasado, OpenAI culpó a la empresa china DeepSeek, alegando que utilizaba la destilación para mejorar sus modelos. Cryptopolitan informó el 30 de enero que Italia e Irlanda prohibieron DeepSeek después de que OpenAI acusara a la empresa china de usar la destilación para robar sus modelos de IA. Esta técnica permite a las empresas copiar tecnología costosa a un costo mucho menor.

¿Por qué los atacantes hacen esto?

La economía es brutal. Construir un modelo de IA de vanguardia cuesta cientos de millones o incluso miles de millones de dólares. Según informes de la industria, DeepSeek construyó su modelo R1 por unos seis millones de dólares mediante destilación, mientras que el desarrollo de ChatGPT-5 superó los dos mil millones de dólares. Robar la lógica de un modelo reduce esa enorme inversión a casi nada.

Muchos de los ataques a Gemini se dirigieron a los algoritmos que le ayudan a "razonar" o procesar información, según Google. Las empresas que entrenan sus propios sistemas de IA con datos confidenciales, como 100 años de estrategias comerciales o información de clientes, ahora se enfrentan a la misma amenaza.

“Supongamos que tu LLM se ha formado con 100 años de razonamiento secreto sobre tu forma de operar. En teoría, podrías extraer algo de eso”, explicó Hultquist.

Los hackers de los estados nacionales se suman a la caza

El problema va más allá de las empresas ávidas de dinero. APT31, un grupo de hackers del gobierno chino sancionado por Estados Unidos en marzo de 2024, utilizó Gemini a finales del año pasado para planificar ciberataques contra organizaciones estadounidenses.

El grupo emparejó Gemini con Hexstrike, una herramienta de hacking de código abierto capaz de ejecutar más de 150 programas de seguridad. Analizaron fallos de ejecución remota de código, métodos para evadir la seguridad web y ataques de inyección SQL, todos dirigidos a objetivos específicos en Estados Unidos, según el informe de Google.

Cryptopolitan ya había abordado problemas similares de seguridad de la IA, advirtiendo que los hackers estaban explotando vulnerabilidades de la IA. El caso APT31 demuestra que esas advertencias eran acertadas.

Hultquist señaló dos preocupaciones principales: que los adversarios operen a lo largo de intrusiones completas con mínima intervención humana, y que automaticen el desarrollo de herramientas de ataque. «Estas son dos maneras en que los adversarios pueden obtener grandes ventajas y superar el ciclo de intrusión con mínima intervención humana», afirmó.

El lapso entre el descubrimiento de una debilidad de software y la implementación de una solución, conocido como brecha de parches, podría ampliarsematic. Las organizaciones suelen tardar semanas en implementar defensas. Con agentes de IA que detectan y prueban vulnerabilidadesmatic, los atacantes podrían actuar con mucha más rapidez.

“Vamos a tener que aprovechar las ventajas de la IA y eliminar cada vez más a los humanos del circuito, para que podamos responder a la velocidad de las máquinas”, dijo Hultquist a The Register.

Los riesgos financieros son enormes. El informe de IBM sobre filtraciones de datos de 2024 reveló que el robo de propiedad intelectual ahora cuesta a las organizaciones 173 dólares por registro, con un aumento interanual del 27 % en las filtraciones centradas en la propiedad intelectual. Las ponderaciones de los modelos de IA representan los objetivos de mayor valor en esta economía sumergida: un solo modelo fronterizo robado podría alcanzar cientos de millones en el mercado negro.

Google ha cerrado cuentas vinculadas a estas campañas, pero los ataques siguen llegando desde "todo el mundo", afirmó Hultquist. A medida que la IA se vuelve más potente y más empresas dependen de ella, cabe esperar que esta fiebre del oro digital se intensifique. La pregunta no es si habrá más ataques, sino si los defensores podrán seguirles el ritmo.

Si estás leyendo esto, ya estás al tanto. Sigue leyendo nuestro boletín .