OpenAI se coordina con Anthropic y Google DeepMind sobre seguridad de la IA

TradingKey - OpenAI está avanzando en las medidas de seguridad de la IA junto a sus principales competidores, Anthropic y DeepMind de Google (GOOGL), lo que intensifica aún más la coordinación en todo el sector en respuesta a la preocupación de que la IA pueda plantear amenazas económicas y de seguridad.

Chris Lehane, director de política global de OpenAI, declaró el martes en una sesión informativa en Washington que los contactos de la empresa con Anthropic y Google se han prolongado durante varias semanas. Asimismo, afirmó que OpenAI considera que la coordinación entre las tres empresas en materia de seguridad no requiere una exención antimonopolio.

"Lo mejor es trabajar juntos y anteponer la seguridad", señaló Lehane, citando la industria de la aviación comercial como un ejemplo en el que la ayuda mutua entre empresas para mejorar la seguridad cuenta con precedentes desde hace tiempo.

La intensificación de las conversaciones se produce después de que el director ejecutivo de Anthropic, Dario Amodei, publicara el pasado sábado un ensayo de unas 3.800 palabras en el que pedía desacelerar el desarrollo de los sistemas de IA más avanzados para dar a los investigadores más tiempo para comprender las amenazas potenciales. Posteriormente, la propuesta obtuvo el respaldo del director ejecutivo de OpenAI, Sam Altman, y del responsable de IA de SpaceX, Elon Musk. Los portavoces de Anthropic y Google DeepMind aún no han hecho comentarios sobre las informaciones acerca de la coordinación entre las tres compañías.

El viaje de Lehane a Washington tenía como objetivo reunirse con los legisladores. Declaró que OpenAI está dispuesta a respaldar planes legislativos bipartidistas orientados a prevenir posibles riesgos catastróficos de la IA, afirmando: "Apoyaremos cualquier medida que permita su aprobación". Señaló que la vía preferida por la empresa incluye el establecimiento de un marco federal de gobernanza para la IA, al tiempo que se mantiene abierta a las propuestas pertinentes que están tomando forma en el Senado.

En cuanto a si la coordinación en materia de seguridad requiere exenciones legales, ya hay iniciativas legislativas en marcha: una propuesta otorgaría a las empresas de IA una exención antimonopolio acotada, lo que les permitiría compartir información sobre riesgos de pérdida de control, amenazas cibernéticas o biológicas y filtraciones de datos. La disposición se ha incorporado a la ley de defensa anual.