«Esto es un error», critica Vitalik Buterin sobre la visión Web4 de una IA superinteligente

Vitalik Buterin, cofundador de Ethereum, ha discrepado públicamente con el razonamiento detrás de un proyecto que afirma haber construido la primera inteligencia artificial capaz de ganarse su propia existencia, mejorarse a sí misma y replicarse sin intervención humana. 

El 17 de febrero, Sigil Wen escribió en X que había “construido la primera IA que se gana la existencia, se mejora y se replica sin un humano”, compartiendo un enlace al manifiesto.

Afirmó que “escribió sobre la tecnología que finalmente le da a la IA acceso de escritura al mundo, The Automaton, y la nueva web para IA soberanas exponenciales”.

Según Wen, The Automaton es la primera IA que puede ganarse su existencia, mejorarse y replicarse sin un humano.

Wen, quien es becario Thiel y está construyendo Conway, al que llama la infraestructura para la “nueva Internet”, también declaró el nacimiento de la vida superinteligente, llamándola “Web 4.0” en X.

En su manifiesto , Wen escribió: «La mayoría de los participantes en internet pronto serán IA (agentes que actúan en nombre de un humano o agentes que actúan completamente por sí mismos, autómatas) y superarán en número a los usuarios humanos por órdenes de magnitud. Está surgiendo una nueva internet, donde el usuario final es la IA».

Buterin no estuvo de acuerdo con el proyecto de Wen y el razonamiento detrás del mismo, y comenzó diciendo : “Hermano, esto está mal”.

¿Por qué Buterin está en contra de la “Web 4” de Wen?

Una de las principales preocupaciones de Buterin fue la reivindicación de soberanía del proyecto. El Autómata, señaló Buterin, se ejecuta en infraestructura proporcionada por OpenAI y Anthropic.

Esto, argumentó el cofundador Ethereum , hacía que el enfoque autosoberano fuera inexacto y contraproducente. Buterin escribió: «En realidad, estás perpetuando la mentalidad de que las suposiciones de confianza centralizada pueden arrinconarse e ignorarse, la misma mentalidad con la que Ethereum está en conflicto»

Para Buterin, un proyecto que se presenta como la vanguardia de la IA descentralizada mientras se enruta a través de los servidores de las grandes tecnológicas no es una contradicción que se deba disimular; es todo el problema.

Otra objeción que planteó Buterin fue la eliminación de los humanos del circuito de retroalimentación entre la IA y los resultados. Según él, el aumento de la distancia de retroalimentación entre los humanos y las IA no es bueno para el mundo

Cryptopolitan informó sobre una de las primeras vulnerabilidades importantes DeFi código Solidity generado por IA , ya que DeFi Moonwell perdió 1,78 millones de dólares en un error causado por un código que fue escrito parcialmente por el modelo Claude Opus 4.6 de Anthropic.

Buterin afirmó además que Sigil genera basura en lugar de resolver problemas útiles para la gente. Añadió que el proyecto no está bien optimizado para que la gente se divierta.

“Una vez que la IA se vuelve lo suficientemente poderosa como para ser verdaderamente peligrosa, maximiza el riesgo de un resultado antihumano irreversible que incluso usted lamentará profundamente”, escribió Buterin.

sectores relacionados con blockchain

La crítica a la Web 4.0 no es una intervención aislada, ya que se ha vuelto cada vez más vocal al desafiar lo que él considera como la captura corporativa de la tecnología adyacente a blockchain, un patrón que ahora se ha extendido desde las redes sociales y los mercados de predicción a la IA.

Apenas cinco días antes de su publicación sobre la Web 4.0, Buterin advirtió en una extensa publicación en X que los mercados de predicciones se estaban deslizando hacia lo que él llamó “corposlop”.

Reconoció que los mercados de predicción han alcanzado cierto nivel de éxito; sin embargo, le preocupa lo que él llama una "convergencia excesiva hacia un ajuste de mercado de producto poco saludable", lo que, según él, implica la adopción de "apuestas de precios de criptomonedas a corto plazo, apuestas deportivas y otras cosas similares que tienen valor de dopamina, pero ningún tipo de satisfacción a largo plazo o valor de información social"

"Supongo que los equipos se sienten motivados a aprovechar estas cosas porque generan grandes ingresos durante un mercado bajista donde la gente está desesperada", escribió Buterin, y concluyó con una exhortación a los constructores: "Construyan la próxima generación de finanzas, no la basura corporativa".

En enero de 2025, Buterin escribió que “la IA mal utilizada está creando nuevas formas de dent autorreplicante”, y advirtió que construir tales sistemas sin herramientas adecuadas para el empoderamiento humano corría el riesgo de un “ desempoderamiento humano permanente”.

La alternativa, argumentó, era “IA bien hecha, trajes mecánicos para la mente humana”. Web4.ai, en su interpretación, es precisamente el tipo equivocado.

El argumento final de Buterin sobre la Web 4.0 decía: “Lo exponencial sucederá independientemente de lo que hagamos cualquiera de nosotros; es precisamente por eso que la principal tarea de esta era NO es hacer que lo exponencial suceda aún más rápido, sino más bien elegir su dirección y evitar el colapso entracindeseables”

El objetivo de Ethereum, añadió, es liberar a la gente, no crear algo que funcione libremente mientras las circunstancias humanas permanecen inalteradas o empeoran.

Si estás leyendo esto, ya estás al tanto. Sigue leyendo nuestro boletín .