El director ejecutivo de Google DeepMind pide a EE. UU. que lidere la regulación ante las crecientes amenazas de la IA general

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind, quiere que el gobierno estadounidense cree un nuevo organismo de control encargado de supervisar los modelos de IA más potentes del mundo. Este organismo también tendrá la potestad de ordenar a la industria que reduzca su ritmo si el peligro aumenta.

Detalló esto en su manifiesto, que se publicó el 14 de julio, y dijo que quiere que el organismo esté en funcionamiento antes de fin de año.

Hassabis es una de las voces más destacadas en el campo de la IA. Compartió el Premio Nobel de Química de 2024 por su trabajo sobre el plegamiento de proteínas y dirige el laboratorio responsable del proyecto Gemini.

En una entrevista, afirmó que la industria ha llegado a un punto en el que la supervisión de la IA debe ser sistemáticamaticfinanciada por los propios laboratorios, contada por expertos técnicos y responsable ante el gobierno de Estados Unidos.

¿Qué hará el organismo regulador de la IA en Estados Unidos?

Hassabis está modelando el organismo a partir de FINRA, el regulador privado financiado por la industria que supervisa a los corredores de Wall Street bajo la autoridad de la Comisión de Bolsa y Valores (SEC).

En su plan, los laboratorios de vanguardia entregarían primero sus modelos de forma voluntaria, hasta 30 días antes de su lanzamiento, para que el organismo pudiera probarlos en busca de capacidades cibernéticas, biológicas y de "engaño" peligrosas.

Afirmó que, una vez que esas pruebas demuestren ser fiables, las normas formales "podrían seguir rápidamente", lo que significa que un modelo tendría que superarlas antes de poder implementarse en el mercado estadounidense.

Los estándares se aplicarían a todos los sistemas de vanguardia, y Hassabis agregó que "sin importar su país de origen o si son abiertos o cerrados", y que los parámetros de referencia se actualizarían a medida que avanza la tecnología.

También quiere que la junta directiva sea mayoritariamentedent, integrada por ganadores del Premio Turing y otros investigadoresdent, además de contar con representación de la industria, el gobierno y desarrolladores de código abierto. Afirmó que la etiqueta de "pionera" se convertiría en un símbolo de estatus, y añadió: "Creo que es un activo de prestigio muy valioso"

¿Por qué Hassabis pide ahora un organismo de control de la IA?

Hassabis afirma que los ciberataques actuales impulsados por IA son una señal de alerta. Según él, en 18 meses podrían existir riesgos biológicos y nucleares aún más graves en modelos de código abierto que ningún gobierno podrá controlar. Añadió que la amenaza no se limita a los sistemas abiertos y que los futuros modelos propietarios de los laboratorios conllevarán los mismos peligros.

Dijo que quiere que el organismo de control esté operativo en cuestión de meses y que ha dedicado las últimas semanas a informar a la administración Trump, a los líderes de laboratorios rivales y a funcionarios europeos antes de hacerlo público. «Los rumores que he escuchado son muy positivos», dijo refiriéndose a las conversaciones con la Casa Blanca.

Hasta el mes pasado, esa administración había preferido no intervenir, cuando impuso una orden de control de exportaciones, limitando su acceso. Posteriormente, se levantó la orden y Anthropic lanzó los modelos con mayores restricciones.

Por otro lado, OpenAI acordó limitar GPT-5.6 a socios aprobados por el gobierno antes de su lanzamiento público la semana pasada, tras realizar pruebas con el Departamento de Comercio. Esta medida se interpretó como un intento de evitar el mismo resultado que el de Anthropic.

Hassabis afirma que eldent es "una especie de llamada de atención"

Un raro punto de acuerdo

El director ejecutivo de Anthropic, Dario Amodei, también opina que debería existir un organismo con poder para controlar los modelos de IA inseguros, y aboga por normas vinculantes y un organismo similar a la FAA.

La postura de Amodei coincide con la de Hassabis; sin embargo, este último prefiere la estructura más flexible y gestionada por la industria de la FINRA.

La convicción de Hassabis de que la situación se complica rápidamente es digna de mención. Ha afirmado que la IA general (IAG), un sistema que iguala la capacidad cognitiva humana en su totalidad, está "probablemente a solo unos pocos años de distancia", y en un evento en Stanford, situó su llegada cerca de 2030, "con un margen de error de un año". En su manifiesto, escribió que los investigadores han "encontrado la manera de hacer pensar a la arena", calificándolo de "milagroso"

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!