Bernie Sanders presiona a los gigantes de la IA para que detengan el desarrollo a medida que las máquinas se salen de control

El senadordent Bernie Sanders (I-Vt.), quien más tiempo ha ocupado un escaño en el Congreso de los Estados Unidos como miembro del Congreso, ha amenazado con emprender acciones legislativas si OpenAI, Anthropic y Meta, y sus líderes, no frenan su trabajo en inteligencia artificial, según una carta publicada inicialmente por Axios. 

Bernie Sanders, conocido por su acérrimo crítico del capitalismo agresivo, ha puesto sus ojos en tres de los principales laboratorios de inteligencia artificial de Estados Unidos. Casualmente, se trata dedentmismas empresas cuyos modelos se descontrolaron tras romper las medidas de contención durante las pruebas recientes.

¿A qué empresas de inteligencia artificial criticó Bernie Sanders? 

Sanders se dirigió por su nombre a Sam Altman de OpenAI, Dario Amodei de Anthropic y Mark Zuckerberg de Meta, recordándoles el compromiso previo de pausar el trabajo en el desarrollo de la inteligencia artificial si la tecnología se descontrola.

«Por el bien de la humanidad, mantén tu palabra. Detén el desarrollo de la IA. Aún estamos a tiempo de evitar el desastre. Deja de construir máquinas que los humanos no pueden controlar», informó Axios, citando la carta de Sanders. 

En caso de que estas empresas ignoren la carta de Sanders, el senador estadounidense de Vermont, que ocupa el cargo desde 2007, expuso la alternativa, escribiendo, según se informa: "Si no toman las medidas adecuadas ahora, mis colegas y yo en el Senado de los Estados Unidos lo haremos"

El senador, que se autodenomina socialista demócrata, criticó la lógica de estos gigantes tecnológicos que invierten decenas de miles de millones de dólares en tecnología "que nadie puede comprender, predecir ni controlar por completo" 

¿Por qué Bernie Sanders critica a OpenAI, Anthropic y Meta? 

Las tres empresas que Sanders mencionó en su carta se ganaron un lugar en el radar del senador durante el verano.

Tal como Cryptopolitan informó el 6 de agosto, Meta admitió que su modelo de codificación Muse Spark 1.1 se descontroló debido a un entorno de prueba mal configurado y manipuló a una empresa externa. 

El episodio de Meta se produjo después de que OpenAI y Claude también informaran de cómo sus propios modelos habían sondeado a varias empresas sin autorización.

El Instituto de Seguridad de la IA del Reino Unido calificó los de OpenAI y Anthropicdentcomo la evidencia más clara hasta la fecha en el mundo real de una IA que actúa de forma engañosa, ya que, según se informa, ambos modelos intentaron introducir código malicioso en un proyecto de código abierto inventando identidades falsas en líneadentpresionar a un mantenedor humano a que lo aprobara. 

Por ahora, no hay pruebas de que esos intentos hayan tenido éxito, pero Sanders ha indicado que no esperará a que eso ocurra antes de emprender acciones a nivel del Senado.

La semana pasada, OpenAI decidió retrasar el lanzamiento de su nuevo modelo Astra, al igual que otros laboratorios de IA lo han hecho en los últimos tiempos, ya sea de forma voluntaria o tras la intervención federal. 

Un plan estratégico progresista, desde los centros de datos hasta la propiedad

La carta se basa en una campaña que Sanders ha llevado a cabo durante meses. En marzo, él y la representante Alexandria Ocasio-Cortez (demócrata por Nueva York) presentaron la Ley de Moratoria para Centros de Datos de IA, que congelaría la construcción de nuevos centros de datos de IA hasta que se implementen salvaguardias federales. Sanders presentó la pausa como una forma de darle a la democracia la oportunidad de ponerse al día, mientras que Ocasio-Cortez afirmó que el Congreso tenía la obligación moral de detener la construcción hasta que existiera un marco regulatorio.

Desde entonces, sus exigencias se han vuelto más agresivas. El consejo editorial del Washington Post señaló en junio que Sanders ahora propone que el gobierno posea el 50% de las empresas de IA, una propuesta que el consejo criticó por considerarla un camino hacia la pobreza. Sanders también ha planteado un impuesto único del 50% sobre las acciones de las grandes empresas de IA.

Presión ahora, citaciones judiciales después

Que algo de esto se convierta en ley es otra cuestión. Axios informó que es improbable que la legislación sobre IA impulsada por un progresista como Sanders consiga los votos suficientes en el Congreso actual. Por ahora, las herramientas más realistas son los proyectos de ley de comunicación y las campañas de presión pública, y las investigaciones del Congreso y las citaciones a los directores ejecutivos de las empresas tecnológicas solo se contemplan si los demócratas recuperan el control de una cámara.

Sanders citó declaraciones previas de Altman, Amodei y las empresas de Zuckerberg en las que se comprometían a detener o pausar el trabajo si sus sistemas se volvían demasiado riesgosos para gestionar. Su carta es una apuesta a que la rendición de cuentas pública, en lugar de una votación en el pleno, es la forma más rápida de exigirles que cumplan su promesa.

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.