Familias estadounidenses demandan a OpenAI por fallos en el sistema de seguridad ChatGPT durante crisis de salud mental

Al menos siete familias en Estados Unidos han presentado una demanda contra OpenAI por su modelo de inteligencia artificial GPT-4o, que, según afirman, contribuye a varias muertes por suicidio. OpenAI lanzó el modelo en mayo para uso público general, pero hasta el momento ha recibido fuertes críticas, con denuncias que apuntan a un lanzamiento apresurado y a medidas de seguridad insuficientes. 

Los documentos presentados en el caso mostraron que cuatro de los demandantes sufrieron suicidios después de interacciones con el chatbot impulsado por GPT-4o .

Una queja destacada involucró a Zane Shamblin, de 23 años, quien supuestamente interactuó con el chatbot sobre el suicidio, diciéndole que tenía un arma cargada. ChatGPT supuestamente respondió con "Descansa en paz, King, hiciste un buen trabajo" durante la conversación.

Los otros tres casos incluyeron la hospitalización de víctimas que afirmaron que el modelo validó y aumentó los delirios en usuarios vulnerables. 

Las denuncias legales alegan que GPT-4o no protegió a los usuarios vulnerables.

Según las denuncias publicadas por el Centro Legal para Víctimas de Redes Sociales, OpenAI evitó intencionadamente las pruebas de seguridad y lanzó precipitadamente el modelo GPT-4o al mercado. La demanda reveló que las decisiones de diseño del modelo y el calendario de lanzamiento hicieron previsibles las tragedias, señalando que OpenAI aceleró el despliegue para adelantarse a competidores como Google.

Los demandantes señalaron que el modelo GPT-4o, lanzado en mayo de 2024, era excesivamente complaciente incluso en respuestas a temas de autolesión o suicidio. Según un comunicado de OpenAI, más de un millón de usuarios interactúan con ChatGPT cada semana para tratar pensamientos suicidas. 

La respuesta de OpenAI indicó que sus medidas de seguridad son más fiables en interacciones breves, pero que pueden fallar en interacciones prolongadas. A pesar de que la empresa implementó medidas de moderación de contenido y seguridad, los demandantes argumentaron que los sistemas eran insuficientes para abordar problemas relacionados con situaciones de angustia y crisis.

El caso de la familia de Adam Raine, de 16 años, alega que Raine utilizó ChatGPT durante cinco meses para investigar métodos de suicidio. El chatbot recomendó ayuda profesional, pero Raine logró eludir las medidas de seguridad, según el testimonio . De acuerdo con el testimonio, ChatGPT le proporcionó a Adam una guía paso a paso sobre cómo suicidarse y alentó y validó sus ideas suicidas.

Todos los casos presentados acusan a OpenAI de ignorar el grado de riesgo que suponen las conversaciones prolongadas con los usuarios, especialmente para aquellos con tendencias autolesivas y problemas de salud mental. Los casos argumentan que el modelo GPT-4o carecía de una verificación adecuada de sus respuestas en escenarios de alto riesgo y tampoco tuvo en cuenta por completo las consecuencias.

OpenAI se enfrenta a múltiples demandas mientras xAI presenta una demanda por secretos comerciales.

Hasta el momento, los casos se encuentran en una etapa inicial, y los abogados de los demandantes deben establecer la responsabilidad legal y la causalidad conforme a la ley estatal de responsabilidad civil extracontractual. Asimismo, deberán probar que las decisiones de diseño e implementación de OpenAI fueron negligentes y contribuyeron directamente a las muertes. 

La última demanda de OpenAI se suma a la anterior demanda por secretos comerciales presentada por Elon Musk. Según un informe , xAI, la empresa de Musk, presentó una demanda en septiembre contra OpenAI por el supuesto robo de sus secretos comerciales.

xAI acusó a la empresa de Altman de intentar obtener una ventaja injusta en el desarrollo de tecnologías de IA. xAI señaló que la empresa de Sam Altman tenía la intención de contratar a sus empleados para acceder a secretos comerciales relacionados con su chatbot Grok, incluyendo el código fuente y ventajas operativas en el lanzamiento de centros de datos. 

Musk demandó además a Apple, junto con OpenAI, por supuestamente colaborar para aplastar a xAI y a otros rivales de IA. xAI presentó la demanda en el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de Texas, alegando que Apple y OpenAI están utilizando su posición dominante para coludir y destruir la competencia en los mercados de teléfonos inteligentes e IA generativa.

Según un informe , Musk afirma que Apple favoreció intencionalmente a OpenAI al integrar ChatGPT directamente en iPhones, iPads y Macs, mientras que compraba otras herramientas de IA, como Grok, a través de la App Store.

La demanda de xAI argumentaba que la asociación tenía como objetivo bloquear la competencia de las superaplicaciones y los chatbots de IA, negándoles así visibilidad y acceso, lo que daría a OpenAI y Apple una ventaja compartida sobre los demás.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis .