Vitalik: La humanidad atrapada entre la elección "ingenua" y la "ingenua al cuadrado" en la transición a la IA general

Vitalik Buterin, cofundador Ethereum argumenta que gran parte del debate público sobre la IA avanzada proviene de suposiciones que ambas partes mantienen y que en realidad nunca comparten. 

La propuesta de Buterin de implementar un mecanismo de desactivación para todas las aplicaciones de IA ha sido recibida con críticas, mientras la comunidad tecnológica se enfrasca en otro debate sobre la rapidez con la que avanzará la IA y qué implicaciones tendrá para el mercado laboral. 

¿Qué impulsa el debate sobre la IA? 

En una publicación en X, Ethereum Vitalik Buterin, cofundador 

El planteamiento de la IA para 2040 parte de la premisa de que algún tipo de superinteligencia aparecerá para ese año a menos que setronmedidas drásticas para impedirlo. Mientras tanto, los críticos creen que los partidarios de la IA para 2040 subestiman la capacidad de coordinación humana y amenazan la libertad, pero no consideran que la superinteligencia en sí misma represente un riesgo de concentración de poder.

Buterin admitió que no sabe qué escenario se acerca más a la realidad. «Si estuvieradent de que la IA (al estilo actual) es tecnología normal, estaría en el bando detrac. Si estuvieradent de que la superinteligencia llegará en 2030 por defecto, estaría más cerca del bando de la IA en 2040», escribió. 

Sin embargo, el cofundador sigue abierto a la posibilidad de ralentizar o pausar el desarrollo de la IA si los riesgos se vuelven significativos.

El debate contó con la participación del investigador de IA Yann LeCun, el autor Daniel Jeffries y el analista político Adam Thierer. 

Yann LeCun, científico jefe de IA de Meta (NASDAQ: META), sostiene que la seguridad de la IA es fundamentalmente un problema de ingeniería que se puede resolver mediante un diseño iterativo cuidadoso, de forma muy similar a como se logró la fiabilidad de los motores a reacción. 

LeCun señaló que se necesitaron 50 años para lograr que los aviones fueran realmente seguros, y que el temor a la IA es prematuro, ya que aún no hemos creado un sistema capaz de alcanzar la inteligencia humana. Ha sostenido consistentemente que los grandes modelos de lenguaje son "máquinas de autocompletado" limitadas que carecen de razonamiento y comprensión causal. 

Harry Hawk, que publica bajo el nombre de usuario @hhawk, afirmó coincidir con Yann LeCun y creer que los futuros sistemas de IA se diseñarán priorizando la seguridad, al igual que los aviones. También expresó que no cree que la IA y los robots lleguen a hacerlo todo, eliminando así cualquier puesto de trabajo.

Buterin respondió que esa perspectiva negaba la existencia de una "IA tan poderosa que la IA por sí sola puede realizar cualquier tarea", a la que él denomina ASI (Inteligencia Artificial de la Información).

¿Cómo se pueden controlar los sistemas de IA potentes?

Buterin sugirió un "plan A", que propone una norma de amplio alcance que obligue a todos a ser transparentes sobre lo que están creando, además de un interruptor de emergencia que pueda ralentizar o detener el entrenamiento a gran escala de la IA si las cosas se ponen peligrosas.

Añadió que los "intelectuales ingenuos y bienintencionados" que creen que pueden elegir qué usos de la IA son aceptables y cuáles no, se opondrán a este plan. 

Romeo Dean, quien impulsó parte del hilo de Buterin, calificó el enfoque de "bastante razonable", pero afirmó que, según su perspectiva, sus consecuencias llegarían demasiado tarde. Añadió que no comprende las "enormes desventajas" que los críticos atribuyen al plan A.

Buterin admitió que no existe una solución perfecta. «No veo ningún plan para afrontar una transición a la IA superinteligente que no sea ingenuo», escribió. «Quizás la humanidad se encuentre ante la disyuntiva de elegir entre la ingenuidad y la ingenuidad al cuadrado»

El informe "IA 2040: Plan A" fue elaborado por el Proyecto de Futuro de la IA de Daniel Kokotajlo, antiguo empleado de OpenAI. 

El informe señala que Estados Unidos y China deberían colaborar para retrasar el desarrollo de la superinteligencia hasta 2040. Ambos países tendrían que compartir abiertamente toda su investigación. También incluye un sistema basado en la lógica de la guerra nuclear, donde ambas partes pueden destruir la capacidad de computación de la otra si fuera necesario. A esto lo denominan «destrucción informática mutuamente asegurada».

Richard Ngo, investigador de IA, afirmó que el informe se preocupa demasiado por la pronta llegada de la IA. También señaló que no reflexiona lo suficiente sobre los problemas políticos que la IA podría causar en cada país.

¿Son los modelos de código abierto la solución?

Detrás de todo este debate subyace el estatus de los modelos de código abierto. LeCun escribió el 9 de julio que el mayor riesgo de la IA es la «concentración de poder» en unas pocas empresas dominantes. También escribió que «la única solución para la soberanía de la IA son los modelos de código abierto». Su publicación obtuvo más de 2900 «me gusta» y más de 430 veces compartida.

El autor Daniel Jeffries, escribiendo el mismo día, afirmó que los modelos de código abierto son la base de la tecnología estadounidense y advirtió contra los "prestacionistas miopes y los halcones" que buscan restringirla. 

El analista político Adam Thierer, investigador sénior del R Street Institute y autor de un destacado informe presentado al Grupo de Trabajo sobre IA de la Cámara de Representantes, ha advertido que la gobernanza de la IA en Estados Unidos se encuentra en una "encrucijada crítica". 

Señaló que el Congreso actualmente emplea un proceso desordenado, aleatorio y secreto para revisar la IA. Advirtió que si este sistema informal crece y el progreso se ve obstaculizado por aprobaciones especiales, destruirá la IA de código abierto. 

En lugar de normas estrictas, Thierer propone un enfoque de «innovación sin permisos», donde se permita a las personas crear y lanzar IA libremente. Sugiere que las leyes existentes se utilicen para castigar los daños cuando sea necesario, y también apoya medidas como las zonas de prueba para nuevas IA, la obligatoriedad de que algunos modelos permanezcan abiertos y una mayor inversión en investigación de IA. 

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.