Von der Leyen de la UE apoya un desarrollo más lento de la IA y organizará conversaciones con laboratorios fronterizos

Ladent de la Comisión Europea, Ursula von der Leyen, tiene previsto invitar a las principales empresas de inteligencia artificial a Bruselas para mantener conversaciones sobre cómo ralentizar el ritmo de desarrollo de la IA, ante la creciente preocupación entre los ejecutivos tecnológicos de que los modelos más potentes estén avanzando más rápido de lo que se pueden controlar eficazmente.

En su discurso anual sobre el Estado de la Unión Europea en Estrasburgo, von der Leyen afirmó que Europa estaba preparada para ayudar a la industria de la IA a ralentizar su ritmo de desarrollo. Según Politico, les comunicó a los eurodiputados que tenía previsto invitar a los principales laboratorios de IA de vanguardia para debatir cómo los reguladores podrían apoyar los esfuerzos para "regular el ritmo de desarrollo".

Von der Leyen habló sin rodeos sobre los riesgos que plantean los sistemas de IA cada vez más capaces, y afirmó que los peligros de los modelos de autoaprendizaje se estaban volviendo "cada vez más evidentes"

Durante su discurso , la presidentadent hizo referencia a las advertencias de los líderes de la industria de la IA , afirmando que los ejecutivos que desarrollan la tecnología creen que se debe frenar el impulso hacia los sistemas autorrecursivos, y que esta es razón suficiente para que los reguladores tomen en serio estas preocupaciones.

Los directores ejecutivos de las empresas tecnológicas lanzan advertencias

Las declaraciones de Von der Leyen surgen tras la creciente preocupación entre algunas de las figuras más destacadas del sector. El director ejecutivo de Anthropic, Dario Amodei, instó recientemente a los desarrolladores de IA a frenar el avance hacia modelos cada vez más capaces debido a preocupaciones de seguridad. Posteriormente, Elon Musk, de xAI, y Sam Altman, de OpenAI, respaldaron esta petición.

Sin embargo, la industria de la IA sigue dividida sobre si se debe ralentizar el desarrollo. Tanto Jensen Huang, CEO de Nvidia, como Mark Zuckerberg, CEO de Meta, se han opuesto a las peticiones de desaceleración.

“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar las medidas necesarias para garantizarlo”, afirmó Zuckerberg. El director ejecutivo argumentó que la amenaza de responsabilidad legal ya incentiva lo suficiente a los desarrolladores de IA para evitar que se publiquen sistemas dañinos para el público en general.

El debate sobre la seguridad de la IA también presenta una división política a ambos lados del Atlántico. La postura de von der Leyen contrasta con la deldent estadounidense Donald Trump, quien ha desestimado las preocupaciones sobre la seguridad de la IA.

¿Tiene Bruselas alguna carta bajo la manga?

La UE ya cuenta con normas vinculantes sobre IA; su Ley de IA otorga a los reguladores la facultad de detener los modelos que se consideren inseguros y permite que evaluadoresdent prueben los sistemas avanzados.

Von der Leyen describió la Ley de IA como "crucial" y afirmó que otorga a Europa un papel importante en la configuración del enfoque global hacia la inteligencia artificial.

También hizo un llamamiento a intensificar la cooperación transfronteriza en lo que respecta a las pruebas y la evaluación de modelos de IA de vanguardia, y mencionó planes para extender la invitación a Canadá y el Reino Unido. Sin embargo, Estados Unidos y China no fueron incluidos en su discurso, a pesar de que estos dos países siguen siendo los principales actores en la carrera por la IA.

Intereses de la UE en materia de IA

En lugar de intentar liderar la carrera de la IA en la vanguardia, Europa debería centrarse en capturar el valor económico de la tecnología, afirmó von der Leyen.dentcinco áreas prioritarias, entre las que se incluyen la salud, el transporte, la agroalimentación, la fabricación avanzada y la defensa y el espacio.

El discurso también abordó el uso de las redes sociales por parte de los niños, y el presidente de la Comisión Europeadent prohibir el acceso a las redes sociales a los menores de 13 años y las cuentas personales a los menores de 15. Además, las plataformas estarían obligadas a demostrar que sus servicios son seguros para los menores.

Se espera que Von der Leyen proporcione más detalles sobre las medidas el jueves.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.