DeepSeek informará al Consejo de Seguridad de la ONU sobre los riesgos de la IA

La empresa china de inteligencia artificial DeepSeek ha sido invitada a informar al Consejo de Seguridad de la ONU sobre los riesgos de la inteligencia artificial en una sesión que tendrá lugar el miércoles 23 de septiembre, lo que supone la presencia de uno de los principales desarrolladores de IA de China en un foro centrado en la seguridad internacional.

El consejo, integrado por 15 miembros, se reunirá en Nueva York durante la semana anual de alto nivel de la Asamblea General de la ONU. Según Reuters , se espera la presencia del director ejecutivo de OpenAI, Sam Altman, y también de altos representantes de Anthropic . Al parecer, el fundador de DeepSeek, Liang Wenfeng, no tiene previsto asistir.

DeepSeek se adentra en un tipo diferente de debate sobre IA

El Consejo de Seguridad suele centrarse en las amenazas a la paz y la seguridad internacionales, por lo que incorporar a los desarrolladores de DeepSeek, junto con algunos de los modelos de IA más avanzados del mundo, a las conversaciones sitúa a esta tecnología de lleno en los debates sobre seguridad global.

Tampoco es la primera vez que el consejo debate sobre la IA. Los miembros mencionaron el tema por primera vez en 2023, cuando China advirtió que la IA no debía convertirse en un "caballo desbocado", mientras que Estados Unidos desaconsejó el uso de esta tecnología para censurar o reprimir a las personas.

El debate se ha polarizado aún más. Recientemente, Dario Amodei, CEO de Anthropic, abogó por una desaceleración coordinada en el desarrollo de la IA de vanguardia, una postura respaldada por Elon Musk. Por otro lado, Mark Zuckerberg, CEO de Meta, y Jensen Huang, CEO de Nvidia, han defendido que el desarrollo de la IA debe continuar sin ningún tipo de ralentización.

La gobernanza de la IA se convierte en otra línea divisoria entre Estados Unidos y China

Washington y Pekín siguen profundamente divididos y enfrentados sobre cómo debe gobernarse la IA y con qué rapidez debe avanzar la tecnología, y la reunión del Consejo de Seguridad de la ONU se produce justo en medio de este conflicto.

El secretario general de la ONU, António Guterres, ha advertido que el rápido ritmo de desarrollo de la IA conlleva riesgos que no se pueden ignorar, mientras que eldent estadounidense Donald Trump ha argumentado que las salvaguardias existentes son suficientes.

Los medios estatales chinos han descrito los llamamientos a una desaceleración como un "manual de la Guerra Fría" diseñado para mantener el dominio estadounidense en tecnología avanzada y mantener a Pekín al margen de la elaboración de normas globales sobre IA, como ya informó Cryptopolitan.

Ambas partes también difieren en la franqueza con la que abordan los riesgos de la IA. Los altos ejecutivos chinos de IA, en general, han guardado silencio públicamente sobre la posibilidad de que sistemas cada vez más avanzados engañen a los usuarios, escapen al control humano o causen daños generalizados. Sus homólogos estadounidenses, por el contrario, han sido mucho más explícitos respecto a estos riesgos.

Washington y Pekín siguen hablando

A pesar del desacuerdo sobre los estándares operativos básicos, los dos países continúan manteniendo conversaciones extraoficiales sobre el tema.

El secretario del Tesoro estadounidense, Scott Bessent, declaró el lunes que altos funcionarios de Estados Unidos y China acordaron celebrar nuevas conversaciones sobre la seguridad de la IA. El acuerdo se alcanzó tras una reunión previa a las conversaciones que Trump espera mantener con eldent chino Xi Jinping en Washington a finales de esta semana.

Estos acontecimientos sitúan la comparecencia de DeepSeek ante el Consejo de Seguridad en el centro de un debate mucho más amplio que no solo involucra a las empresas de IA, sino también los enfoques contrapuestos de las dos mayores potencias tecnológicas del mundo en lo que respecta a los riesgos, las normas y la dirección futura de la tecnología de IA.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!