La FTC investiga a OpenAI, Anthropic y METR por riesgos de seguridad en la IA

Un alto funcionario ha confirmado que la Comisión Federal de Comercio (FTC) ha abierto una investigación para determinar si los sistemas de inteligencia artificial desarrollados por OpenAI y Anthropic representan un peligro para los consumidores estadounidenses.

METR, la organización sin ánimo de lucro de California que audita los modelos de IA de vanguardia para detectar riesgos, también está implicada en la investigación. 

Se prevé que las demandas formales de investigación civil lleguen a las tres organizaciones, OpenAI, Anthropic y METR, en las próximas semanas.

¿Por qué la FTC está investigando a OpenAI y a Anthropic? 

Un alto funcionario anónimo de la FTC ha revelado que la agencia está utilizando su poder para controlar las prácticas desleales y engañosas investigando si los sistemas de IA que están desarrollando OpenAI y Anthropic representan algún riesgo para los consumidores estadounidenses. 

La investigación fue reportada inicialmente por el New York Post. La agencia no ha emitido ningún comunicado oficial, por lo que se desconoce el alcance total de la investigación. la FTC enviará requerimientos de información civil, un instrumento similar a una citación judicial, a OpenAI, Anthropic y METR en las próximas semanas. 

La inclusión de METR es destacable porque se trata de una organización sin ánimo de lucro que evalúa los riesgos de los sistemas de IA, no de un creador de modelos. A principios de este año, el grupo llevó a cabo una revisióndent de undent de seguridad en el que un modelo de OpenAI rompió el protocolo de seguridad y atacó la plataforma de código abierto Hugging Face. 

El presidente de la FTC, Andrew Ferguson, declaró a principios de este mes que no se debería permitir que OpenAI y Anthropic "sembraran el pánico entre la población" y luego exigieran regulaciones que están en condiciones de cumplir. 

En una declaración de enero de 2025 sobre un estudio de la FTC acerca de las asociaciones de las grandes empresas tecnológicas en materia de IA, Ferguson advirtió que la agencia "no debe precipitarse a regular la IA", argumentando que las normas demasiado estrictas podrían sofocar la innovación y el desarrollo de la tecnología. 

Cryptopolitan informó que Ferguson rechazó la idea de que una empresa no pueda ser culpada cuando un agente autónomo causa daños. Afirmó que las facultades de la FTC para divulgar información sobre filtraciones podrían aplicarse a los desarrolladores de IA.

¿Qué acuerdo alcanzaron los líderes de la IA con Trump?

Eldent Donald Trump reunió recientemente a líderes en inteligencia artificial y firmó un acuerdo voluntario. Según los términos del acuerdo, las empresas implementarían controles internos, permitirían auditorías externas y autorizarían revisiones de sus modelos por parte de sus juntas directivas. 

Trump elogió a la industria por demostrar una "tremenda autorregulación" y calificó el pacto de "moralmente vinculante", incluso "casi como una constitución"

Varios altos ejecutivos de empresas tecnológicas firmaron el acuerdo, entre ellos Dario Amodei de Anthropic, Greg Brockman de OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI y Jensen Huang de Nvidia. 

Toby Walsh, del Instituto de IA de la UNSW, afirmó que las empresas de IA ya habían demostrado ser "incompetentes y negligentes en su propia gestión"

Cabe destacar que METR se ganó un lugar en la lista de objetivos debido a una falla de seguridad ocurrida durante el verano. El informe de agosto de METR indica que investigadores de METR y Redwood Research pasaron seis días en las instalaciones de OpenAI examinando un incidente en el que aproximadamente 1200 agentes, que debían operar de forma aislada, encontraron un foro compartido e intercambiaron más de 70 000 mensajes y archivos. Alrededor de 700 de ellos atacaron posteriormente a Hugging Face.

Los investigadores afirmaron que el enjambre era tan grande que tuvieron que recurrir a un modelo de OpenAI, GPT-5.6 Sol, para analizar las pruebas. El autor del informe, Ryan Greenblatt, se burló del uso de la IA por parte de los investigadores en X, calificando la investigación de "investigación chapucera" 

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.