Zuckerberg señala el mayor riesgo de la IA mientras Meta lanza el modelo de peso abierto Glimmer

Meta (NASDAQ: META) ha lanzado un modelo de IA de peso abierto llamado Muse Glimmer junto con un manifiesto del CEO Mark Zuckerberg, quien afirmó que el verdadero peligro de la IA avanzada reside en que un solo gobierno o empresa controle la tecnología, no en máquinas descontroladas.

Muse Glimmer es un modelo denso con 30 mil millones de parámetros que cabe en una computadora portátil o en una sola GPU de consumo, y Meta lo presenta como "uno de los modelos de mayor rendimiento de su tamaño"

Cualquiera puede descargar el modelo, personalizarlo y ejecutarlo en su propio hardware, ya que los pesos son de código abierto.

Según se informa, Meta construyó Muse Glimmer mediante destilación, entrenando el modelo más pequeño con los resultados de su sistema más grande, Muse Spark, de modo que la versión compacta hereda la capacidad del "maestro" más grande.

Según Meta, los pesos para la versión 1.2 de Muse Spark se publicarán en las próximas semanas. Ambos modelos se consideran los modelos de código abierto estadounidenses más grandes hasta la fecha.

Meta había suspendido inicialmente el lanzamiento de sus modelos de ponderación abierta, lo que Zuckerberg atribuyó a una revisión estratégica. Ahora han retomado el proyecto, ya que Meta Superintelligence Labs está en pleno funcionamiento.

¿Qué dijo Zuckerberg sobre la centralización de la IA en su ensayo?

Zuckerberg, en un ensayo de 6.500 palabras titulado "El futuro es para todos: el camino hacia un futuro positivo para la IA", rechazó el tono catastrofista de gran parte del discurso sobre la IA.

En una entrevista, declaró: “Personalmente, me preocupa más la centralización que cualquiera de los riesgos específicos de los que hablan otros”.

Según Zuckerberg, concentrar la superinteligencia en pocas manos "conducirá naturalmente a resultados menos favorables para todos los demás"

Añadió que “no existe tal cosa como una superinteligencia benevolente singular”

Zuckerberg también propuso una alternativa que se basa en tres ideas: el empoderamiento individual como fuente de prosperidad, la invención en lugar de la automatización como propósito principal de la IA, y un equilibrio de poder como fundamento de la seguridad.

En materia de geopolítica, Zuckerberg escribió que las normas estadounidenses que retrasan los lanzamientos de modelos estadounidenses incluso un mes podrían costarle al país su liderazgo mientras los modelos extranjeros avanzan.

Una juntadent y un fondo comunitario de mil millones de dólares

Para conciliar las versiones abiertas con las preocupaciones de seguridad, Meta está implementando mecanismos de gobernanza. Zuckerberg afirmó que un consejo independientedent la autoridad para aprobar los criterios de seguridad que rigen las versiones de los modelos y para revisar si una versión determinada los cumple. Añadió que el consejo ayudará a garantizar que las versiones abiertas cumplan con rigurosos estándares de seguridad.

Zuckerberg también anunció un fondo de mil millones de dólares, denominado "El futuro es para todos", destinado a las comunidades estadounidenses que albergan centros de datos de Meta. Se dice que los fondos se destinarán a maestros, personal de emergencias y a la infraestructura local de energía y agua.

El fondo se considera un esfuerzo por mitigar la creciente reacción local contra la construcción de centros de datos en Estados Unidos.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.