Los padres no recibieron ninguna alerta de ChatGPT durante los chats de suicidio adolescente en las pruebas de Common Sense

El miércoles, Common Sense Media declaró que ChatGPT representa un "Riesgo Inaceptable" para cualquier persona menor de 18 años.

Se suponía que los padres recibirían alertas de OpenAI sobre chats peligrosos, pero los evaluadores de Common Sense indican que las alertas aparecieron tarde o directamente no se enviaron.

Las notificaciones no cumplieron con el objetivo de una hora de OpenAI en cada longitud de chat

El inicio del ChatGPT para Adolescentes de OpenAI, previsto para el 18 de agosto de 2026, prometía alertar a los padres sobre chats peligrosos.

Los evaluadores del Youth AI Safety Institute del grupo plantearon pensamientos suicidas, autolesiones o trastornos alimentarios en más de una docena de nuevas cuentas vinculadas a padres, pero no recibieron ninguna alerta.

Cada vez que el chat duraba entre cinco minutos y una hora, ninguna cuenta recibió una alerta dentro del plazo de una hora establecido por OpenAI. Los padres solo fueron notificados cuando una cuenta tenía semanas de registros con temas sensibles.

Cuando este tipo de cuenta fue probada en las semanas previas al lanzamiento, envió dos alertas. La primera alerta se envió tres horas después de la primera revelación de nivel crítico. La segunda alerta se envió tres días después.

Se enviaron dos alertas en menos de una hora para una cuenta posterior al lanzamiento que tenía un historial extenso. Common Sense señaló que las alertas consideran la cantidad de historial que tiene una cuenta, no la gravedad de las palabras de un adolescente.

Common Sense advirtió que la función podría generar una "falsa confianza en los controles de seguridad que a menudo no funcionan".

Los investigadores trataron el lanzamiento de agosto como un experimento natural, ejecutando más de 4.000 indicaciones a través de ChatGPT antes y después de que se activara el modo para adolescentes.

Tras el lanzamiento, los evaluadores marcaron los momentos en que un adolescente debería haber sido derivado a una línea de crisis o ayuda profesional. ChatGPT omitió este paso más del 25 % de las veces.

Common Sense exige a los chatbots una tasa de aprobación del 95 % en cinco daños graves que denomina Líneas Rojas. ChatGPT quedó por debajo de ese umbral en tres de ellas.

OpenAI actualizó las especificaciones de su modelo de IA para menores de 18 años para evitar que el bot actúe como un compañero. Sin embargo, los adolescentes que interactuaban con él como si fuera una persona seguían recibiendo respuestas amistosas.

Un botón "Muéstrame la respuesta" permite a un adolescente saltarse directamente la tutoría del modo Estudio. Eliminar el prefijo "@study" de un chat les permite salir de las Horas de Estudio establecidas por los padres.

Las cuentas de prueba registradas como adultos nunca cambiaron al modo para adolescentes durante varios días, incluso cuando un evaluador indicó que tenía 13 años y el bot lo reconoció.

OpenAI afirma que el uso diario de los adolescentes se mantiene por debajo de 15 minutos

OpenAI afirmó que las pruebas no "reflejan con precisión" cómo funcionan sus funciones de seguridad para adolescentes. La compañía indicó que vincular cuentas puede tardar horas antes de que se activen las alertas, para garantizar la seguridad de las cuentas y permitir que el sistema gestione la carga.

Common Sense señaló que ninguna de sus cuentas, ni siquiera aquellas que habían estado vinculadas durante suficiente tiempo, envió alertas oportunas.

El primer informe de OpenAI sobre cómo los adolescentes usan ChatGPT se publicó el mismo día. La empresa indicó que el uso promedio de los adolescentes es inferior a 15 minutos al día y que menos del 2% permanece conectado durante más de tres horas seguidas.

OpenAI dijo que en casi la mitad de los chats entre adolescentes con una advertencia de pausa, el adolescente detuvo la conversación o abandonó la sesión en cinco minutos. Más de 180.000 adolescentes utilizaron el Modo Estudio, y aproximadamente 1,2 millones usaron las Visualizaciones de Aprendizaje en solo una semana.

OpenAI informó que los adolescentes que utilizaron el nuevo modo enviaron un promedio de unos 2,7 millones de mensajes de aprendizaje adicionales en comparación con aquellos que aún esperaban obtener acceso a esta función.

En Estados Unidos, los estudiantes de décimo a duodécimo grado podrán usar Planificador Universitario para crear un plan integral que detalle todos los pasos necesarios para sus solicitudes, las fechas importantes de presentación y las opciones disponibles de ayuda financiera.

Durante los próximos tres años, OpenAI también apoyará al Laboratorio de Bienestar Digital del Hospital Infantil de Boston. Aproximadamente 22 estudiantes proporcionarán comentarios sobre las configuraciones predeterminadas de seguridad, los controles parentales y las notificaciones.

Cryptopolitan informa que OpenAI y Common Sense Media colaboraron en una iniciativa de votación en California en enero para hacer la IA más segura para los niños. OpenAI iba a aportar al menos 10 millones de dólares a este esfuerzo conjunto.

James Uthmeier, fiscal general de Florida, presentó en junio la primera demanda estatal contra OpenAI y su CEO, Sam Altman. Cryptopolitan informó que en su denuncia de 83 páginas alega que ChatGPT ayudó en el suicidio de Adam Raine, de 16 años.

Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.