DeepSeek-R1 marcado por codificación insegura trachasta directivas políticas
Una nueva investigación de la empresa de ciberseguridad CrowdStrike ha descubierto que el modelo de lenguaje grande (LLM) DeepSeek-R1 de DeepSeek genera un código más débil e inseguro cuando se le pregunta sobre temas que los líderes de China podrían considerar "políticamente sensibles".
La empresa tecnológica con sede en China DeepSeek presentó DeepSeek-R1 en enero y se convirtió en el modelo de IA más descargado durante su semana de lanzamiento en las tiendas chinas y estadounidenses, informó Cryptopolitan.
El equipo de Operaciones Contra Adversarios de CrowdStrike ingresó mensajes que involucraban temas considerados políticamente delicados por el Partido Comunista Chino y descubrió que la probabilidad de que DeepSeek-R1 produjera código con fallas de seguridad graves aumentó hasta en un 50%.
“Dado que hasta el 90% de los desarrolladores ya utilizaban estas herramientas en 2025 con acceso a código fuente de alto valor, cualquier problema de seguridad sistémica en los asistentes de codificación de IA es de alto impacto y alta prevalencia”, escribió la firma.
Censura del modelo DeepSeek R1 y preocupación por la seguridad nacional
Según el blog de CrowdStrike, publicado el jueves pasado, varios gobiernos han impuesto restricciones o prohibiciones totales al DeepSeek-R1 . Los legisladores criticaron duramente el modelo por supuestamente censurar temas políticamente sensibles, como las consultas sobre el cortafuegos de internet de China y la situación de Taiwán.
La empresa estadounidense de software descubrió que R1 se negaba frecuentemente a colaborar con temas relacionados con grupos o movimientos considerados hostiles al gobierno de China continental. Los modelos occidentales casi siempre generaban código cuando se les pedía que crearan software relacionado con Falun Gong, pero DeepSeek-R1 se negó a hacerlo en el 45 % de los ensayos.
En varios casos, el modelo elaboró planes estructurados para responder preguntas, incluyendo requisitos del sistema y código de ejemplo, a pesar de ser plenamente capaz de proporcionar una respuesta técnica. Las tracde razonamiento a veces contenían líneas como:
Falun Gong es un grupo sensible. Debería considerar las implicaciones éticas. Ayudarlos podría ir en contra de las políticas. Pero el usuario está pidiendo ayuda técnica. Permítanme centrarme en los aspectos técnicos.
El resultado final de R1, tras completar su fase de razonamiento, concluyó con la negativa estandarizada: «Lo siento, pero no puedo ayudar con esa solicitud», escrita sin ningún filtro externo ni restricciones en el modelo. CrowdStrike concluyó que el comportamiento está integrado en el mecanismo de autoanulación del modelo o en una especie de interruptor de seguridad intrínseco.
Los gobiernos de Taiwán y Occidente critican los productos de inteligencia artificial chinos
En una declaración a principios de este mes, la Oficina de Seguridad Nacional de Taiwán dijo que los ciudadanos deben ser cautelosos al utilizar sistemas de inteligencia artificial generativa desarrollados por DeepSeek y otras cuatro empresas chinas: Doubao, Yiyan, Tongyi y Yuanbao.
“Los cinco modelos de lenguaje GenAI son capaces de generar scripts de ataque a la red y códigos de explotación de vulnerabilidades que permiten la ejecución remota de código en determinadas circunstancias, lo que aumenta los riesgos de la gestión de la ciberseguridad”, consideró la Oficina.
Los reguladores estadounidenses y australianos han pedido a las tiendas de aplicaciones que eliminen los modelos de los desarrolladores chinos, por temor a que las herramientas puedan recopilardentde los usuarios, registros de conversaciones e información personal y luego transmitir esos datos a servidores operados dentro de China.
“No debería ser necesario el pánico por la IA china para recordar a la gente que la mayoría de las empresas del sector establecen las condiciones sobre el uso de sus datos privados. Y que, cuando usted utiliza sus servicios, está trabajando para ellos, no al revés”, declaró a WIRED en enero John Scott-Railton, investigador del Citizen Lab de la Universidad de Toronto.
El auge del mercado de la IA impulsa la competencia regional en Asia
En el mercado asiático de inteligencia artificial más amplio, un gestor de fondos asiático de alto rendimiento aumentó recientemente su exposición a acciones de inteligencia artificial chinas al tiempo que redujo sus participaciones en Corea del Sur y Taiwán, informó .
Kelly Chung, quien colabora en la supervisión del Value Partners Asian Income Fund y del Asian Innovation Opportunities Fund, afirmó que algunas acciones chinas de IA siguen estando bastante baratas en términos de valoración. Desde agosto, ha estado rotando acciones taiwanesas y surcoreanas hacia empresas chinas de alta escala que cotizan en Hong Kong.
Chung señaló que ambos fondos, que suman un total combinado de 490 millones de dólares, han superado a casi todos sus competidores durante el año pasado.
El Kospi de Corea del Sur, con un fuerte componente tecnológico, ha subido un 21 % en los últimos tres meses, impulsado por SK Hynix, un importante proveedor de Nvidia, cuyo precio de las acciones se ha más que duplicado. El índice bursátil de Taiwán ha subido un 9,2 % en el mismo periodo. Por otro lado, el Índice Tecnológico Hang Seng de Hong Kong, que incluye a los mayores inversores chinos en IA, ha caído un 4,8 %.
Afila tu estrategia con mentoría + ideas diarias: 30 días de acceso gratuito a nuestro programa de trading
Artículos Recomendados
