Apple ignoró las advertencias de los ingenieros sobre la tecnología de inteligencia artificial defectuosa

Fuente Cryptopolitan

Según se informa, Apple ignoró las advertencias de los ingenieros sobre su Apple Intelligence defectuoso y lanzó la tecnología, obteniendo críticas decepcionantes en el mercado.

Apple Intelligence del fabricante del iPhone apareció en los titulares por razones equivocadas y obtuvo críticas generalizadas, particularmente por inventar información falsa y titulares de noticias fallidos.

Los ingenieros descubrieron fallas en muchos modelos, incluido Apple Intelligence

Si bien es común que los grandes modelos de lenguaje tengan alucinaciones, un desafío que la industria de la IA aún debe resolver, si es que alguna vez lo logra, el caso de Apple fue un poco diferente. Los ingenieros notaron algunos defectos profundos en el modelo antes de su lanzamiento. Sin embargo, la empresa ignoró las advertencias.

Según los analistas, proceder a lanzar el modelo fue imprudente por parte del gigante tecnológico después de que se emitieran advertencias sobre las enormes deficiencias de su defi . Las advertencias surgieron a través de un estudio publicado en octubre del año pasado.

Aunque aún no ha sido revisado por pares, el estudio también concluyó que los modelos no razonan, después de probar el “razonamiento” matic de algunos de los principales LLM en la industria de la IA.

Para probar los modelos, los ingenieros les hicieron resolver miles de problemas matemáticos del conjunto de datos GSM8K , que es el punto de referencia de la industria.

Según Futurism, una pregunta típica del conjunto de datos dice: “James compra 5 paquetes de carne de res de 4 libras cada uno. El precio de la carne de res es de $5.50 por libra. ¿Cuánto pagó?

Los ingenieros expusieron las lagunas en los modelos de IA simplemente cambiando algunos números en las preguntas para evitar la contaminación de los datos. Esto provocó algunas imprecisiones pequeñas pero notables en los 20 LLM examinados.

Sin embargo, cuando los investigadores dieron un paso más y cambiaron los nombres y agregaron algunos "detalles irrelevantes", los resultados fueron "catastróficos", llegando hasta el 65%.

Los investigadores escribieron: "Esto revela una falla crítica en la capacidad de los modelos para discernir información relevante para la resolución de problemas, probablemente porque su razonamiento no es formal en el sentido común y se basa principalmente en la coincidencia de patrones".

Según los investigadores, los resultados diferían con cada modelo. La vista previa 01 de OpenAI cayó un 17,5% y su predecesor GPT-4o cayó un 32%. Los investigadores observaron que incluso los modelos "más inteligentes" enfrentaban problemas y presentaban algunos defectos graves.

Los modelos de IA luchan solos 

Las pruebas también demostraron que los modelos de IA pueden parecer inteligentes para resolver problemas, pero una vez que no copian palabra por palabra la tarea de alguien, tienen dificultades. En cuanto a Apple , el gigante tecnológico supuestamente conocía los resultados de las pruebas, pero lanzó su modelo al mercado.

Fue necesaria una fuerte reacción del mercado, incluida la BBC que expresó su preocupación sobre el modelo que proporciona información engañosa, para que Apple finalmente pausara el programa hasta que pudiera solucionarlo.

Se esperaba que la función de inteligencia artificial de Apple resumiera las notificaciones de noticias, pero a veces inventaba noticias por sí sola, para disgusto de lectores y editores de noticias.

Una de las alertas de noticias inexactas alegaba que Rafael Nadal era gay y que un hombre acusado de matar a un jefe de seguros estadounidense se había pegado un tiro. La IA de Apple también resumió incorrectamente las notificaciones de la aplicación de la BBC para afirmar que Luke Littler había ganado el Campeonato Mundial de Dardos PDC horas antes de que comenzara.

Otro resumen incorrecto de una historia del New York Times parece haber sido publicado el 6 de enero, relacionado con el cuarto aniversario de los disturbios en el Capitolio.

"Las funciones de Apple Intelligence están en versión beta y estamos realizando mejoras continuamente con la ayuda de los comentarios de los usuarios", dijo Apple en un comunicado a la BBC. “Una actualización de software en las próximas semanas aclarará aún más cuándo el texto que se muestra es un resumen proporcionado por Apple Intelligence. Alentamos a los usuarios a informar una inquietud si ven un resumen de notificación inesperado”, agrega .

La característica defectuosa de Apple fue una de las herramientas de inteligencia artificial lanzadas a los usuarios de algunos iPhones más nuevos en diciembre, incluidos los teléfonos iPhone 16, 15 Pro y 15 Pro Max, así como en algunos iPads y Macs.

Un sistema paso a paso para iniciar su carrera en Web3 y conseguir trabajos criptográficos bien remunerados en 90 días.

Descargo de responsabilidad: Sólo con fines informativos. Rentabilidades pasadas no son indicativas de resultados futuros.
placeholder
Acciones EE.UU, tecnológicas, y el efecto 'TINA': Cuidado en la recta final de año2024 va terminando, y según nos acercamos a final de año los mercados se van poniendo más nerviosos. "La última semana en las bolsas norteamericanas dejó un panorama mixto en los principales índices bursátiles.
Autor  Investing
16 de dic de 2024
2024 va terminando, y según nos acercamos a final de año los mercados se van poniendo más nerviosos. "La última semana en las bolsas norteamericanas dejó un panorama mixto en los principales índices bursátiles.
placeholder
XRP pierde impulso, arriesga una caída del 20% a pesar de la orden ejecutiva presidencial de Donald TrumpEl XRP de Ripple cayó un 3% en las primeras horas de negociación del viernes, ya que los indicadores en cadena y técnicos señalan que los alcistas están perdiendo fuerza.
Autor  FXStreet
1 Mes 24 Día Vie
El XRP de Ripple cayó un 3% en las primeras horas de negociación del viernes, ya que los indicadores en cadena y técnicos señalan que los alcistas están perdiendo fuerza.
placeholder
El Dólar australiano permanece contenido tras los datos de la balanza comercialEl Dólar australiano (AUD) cede frente al Dólar estadounidense (USD) tras la publicación de datos de la balanza comercial más bajos de lo esperado el jueves.
Autor  FXStreet
2 Mes 06 Día Jue
El Dólar australiano (AUD) cede frente al Dólar estadounidense (USD) tras la publicación de datos de la balanza comercial más bajos de lo esperado el jueves.
placeholder
WTI amplía su movimiento a la baja por debajo de 70.50$ mientras se intensifica la guerra comercial entre EE.UU y ChinaEl petróleo crudo West Texas Intermediate (WTI), el referente del crudo de EE.UU., se cotiza alrededor de 70.35$ durante la sesión asiática temprana del viernes.
Autor  FXStreet
2 Mes 07 Día Vie
El petróleo crudo West Texas Intermediate (WTI), el referente del crudo de EE.UU., se cotiza alrededor de 70.35$ durante la sesión asiática temprana del viernes.
placeholder
Pronóstico del Precio de Ethereum: ETH podría alcanzar los 1.200$ mientras Trump anuncia planes para aranceles recíprocos la próxima semanaEthereum cayó un 4% el viernes tras el plan del presidente de Estados Unidos (EE.UU.) Donald Trump de anunciar aranceles recíprocos en varios países la próxima semana.
Autor  FXStreet
23 hace una horas
Ethereum cayó un 4% el viernes tras el plan del presidente de Estados Unidos (EE.UU.) Donald Trump de anunciar aranceles recíprocos en varios países la próxima semana.
goTop
quote