El fundador de ByteDance rechaza el atajo de la destilación en la carrera por la IA

El fundador de ByteDance, Zhang Yiming, ha declarado que no utilizará la destilación para entrenar los modelos de IA de la compañía. Esto la diferencia de otros laboratorios de IA chinos que han sido acusados de usar esta técnica.

Esto ocurre en un contexto en el que funcionarios estadounidenses han acusado a laboratorios chinos de utilizar esta técnica para superar la brecha existente con los modelos de IA estadounidenses. Los funcionarios de Washington incluso han llegado a amenazar con sanciones.

Zhang pone límites cuando todos los demás toman atajos

el informe , Zhang Yiming se opone rotundamente a la destilación en el entrenamiento de los modelos de IA de la compañía. Zhang ha decidido involucrarse más directamente en las ambiciones de IA de ByteDance y se ha reunido con investigadores sénior para obtener información de primera mano, al tiempo que supervisa los esfuerzos de contratación de la empresa.

Esto es importante porque llega en un momento crítico para la carrera de la IA. Precisamente este mes, funcionarios estadounidenses han intensificado su confrontación con laboratorios chinos por la práctica de la destilación. ByteDance también es propietaria de Seedance, un modelo de vídeo rentable y de alto rendimiento, un logro excepcional entre los productos de IA chinos.

¿Por qué Washington ve con malos ojos la destilación?

La destilación consiste simplemente en entrenar modelos de IA más débiles con las respuestas de modelos mástron. Esto garantiza que los sistemas de IA más pequeños aprendan a imitar al sistema más grande. La destilación se realiza abiertamente y es una práctica habitual en la industria de la IA. Se considera legal, aunque suele llevarse a cabo a pequeña escala.

Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, ha alegado que Moonshot AI se basó en el modelo Fable de Anthropic para construir Kimi K3, su sistema de inteligencia artificial.

En una publicación en X, afirmó que Moonshot llevó a cabo la operación mediante una plataforma interna especialmente diseñada, que rotaba las rutas de acceso para evitar ser detectada y utilizaba servidores NVIDIA GB300 en Tailandia, cuya exportación a China está prohibida por las normas de exportación estadounidenses. 

Según se informa, Anthropic trac3,4 millones de conversaciones de Claude hasta Moonshot a través de cuentas falsas. Moonshot aún no ha respondido a estas acusaciones.

Cómo ByteDance creó Seedance, su modelo de IA líder

ByteDance experimentó un punto de inflexión de una manera totalmente diferente. La compañía apostó por Seedance 2.0 a pesar de las disputas internas sobre el alto costo y la ambiciosa escala del modelo. El modelo de video fue diseñado para superar los 200 mil millones de parámetros, pero algunos dentro de la empresa lo consideraron demasiado ambicioso.

La estrategia dio sus frutos, ya que el margen bruto de los modelos se mantuvo en torno al 70-90%, después de que la empresa invirtiera fuertemente en GPU, datos y reclutamiento de personal de primer nivel.

Washington afirma que la brecha en IA se está cerrando

La batalla por la destilación es solo la punta del iceberg. Scott Bessent, secretario del Tesoro, ha planteado la posibilidad de imponer sanciones si las empresas chinas adoptan la destilación a escala industrial. Un proyecto de ley bipartidista en la Cámara de Representantes facilitaría ladenty sanción de los intentos de destilación.

Estas cifras han impulsado medidas urgentes. A pesar de invertir 23 veces más que China en IA, Estados Unidos ha perdido su ventaja en la carrera por la inteligencia artificial. Según el Instituto de IA Centrada en el Ser Humano de Stanford, los mejores modelos de ambos países son prácticamente idénticos. 

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.