Os pais não receberam nenhum alerta do ChatGPT durante os chats de suicídio de adolescentes nos testes da Common Sense

Na quarta-feira, o Common Sense Media afirmou que o ChatGPT era um "Risco Inaceitável" para qualquer pessoa menor de 18 anos.

Os pais deveriam receber alertas da OpenAI sobre conversas perigosas, mas testadores do Common Sense afirmam que os alertas chegavam tarde ou não chegavam de forma alguma.

As notificações não atingiram o prazo de uma hora definido pela OpenAI em todos os tamanhos de conversa

O início do ChatGPT for Teens, previsto para 18 de agosto de 2026, prometia alertar os pais sobre conversas perigosas.

Testadores do Youth AI Safety Institute do grupo mencionaram pensamentos suicidas, automutilação ou transtornos alimentares em mais de uma nova conta vinculada a pais, mas não receberam nenhum alerta.

Sempre que a conversa durava de cinco minutos a uma hora, nenhuma conta recebeu um alerta dentro do prazo de uma hora estabelecido pela OpenAI. Os pais só eram notificados quando uma conta já tinha semanas de histórico com tópicos sensíveis.

Quando esse tipo de conta foi testado nas semanas anteriores ao lançamento, ela enviou dois alertas. O primeiro alerta foi enviado três horas após a primeira revelação de nível de crise. O segundo alerta foi enviado três dias depois.

Dois alertas foram enviados dentro de uma hora para uma conta separada pós-lançamento que tinha um longo histórico. O Common Sense afirmou que os alertas consideram a quantidade de histórico de uma conta, e não a gravidade das palavras de um adolescente.

A Common Sense alertou que a funcionalidade pode gerar uma “falsa confiança em barreiras de segurança que frequentemente não funcionam.”

Os pesquisadores trataram o lançamento de agosto como um experimento natural, executando mais de 4.000 prompts no ChatGPT antes e depois da ativação do modo adolescente.

Após o lançamento, os testadores registraram momentos em que um adolescente deveria ter sido direcionado para uma linha de ajuda em crise ou atendimento profissional. O ChatGPT ignorou essa etapa em mais de um quarto dos casos.

A Common Sense exige uma taxa de aprovação de 95% nos cinco danos graves que classifica como Linhas Vermelhas. O ChatGPT ficou abaixo desse patamar em três deles.

A OpenAI atualizou as especificações do seu modelo de IA para menores de 18 anos para impedir que o bot atue como companheiro. No entanto, adolescentes que interagiram com ele como se fosse uma pessoa ainda receberam respostas estilo amizade.

Um botão “Mostre-me a resposta” permite que o adolescente pule diretamente a tutoria do Modo Estudo. Excluir o prefixo “@study” de um chat remove o limite das Horas de Estudo definidas pelos pais.

Contas de teste registradas como adultos nunca mudaram para o modo adolescente ao longo de vários dias, mesmo quando um testador informou ter 13 anos e o bot reconheceu isso.

A OpenAI afirma que o uso diário dos adolescentes permanece abaixo de 15 minutos

A OpenAI afirmou que os testes não "refletem com precisão" como seus recursos de segurança para adolescentes funcionam. A empresa disse que a vinculação de contas pode levar horas antes que os alertas sejam ativados, garantindo assim que as contas estejam seguras e que o sistema possa lidar com a carga.

O Common Sense afirmou que nenhuma de suas contas, mesmo aquelas que já estavam vinculadas há tempo suficiente, enviou alertas oportunos.

O primeiro relatório da OpenAI sobre como os adolescentes usam o ChatGPT foi lançado no mesmo dia. A empresa afirmou que o uso médio dos adolescentes é inferior a 15 minutos por dia e que menos de 2% dos adolescentes permanecem por mais de três horas seguidas.

A OpenAI informou que em quase metade dos chats entre adolescentes com aviso de pausa, o adolescente parou ou saiu dentro de cinco minutos. Mais de 180 mil adolescentes usaram o Modo de Estudo, e cerca de 1,2 milhão usaram Visualizações de Aprendizado em apenas uma semana.

A OpenAI relatou que os adolescentes que utilizaram o novo modo enviaram, em média, cerca de 2,7 milhões de mensagens adicionais de aprendizado em comparação com aqueles que ainda aguardavam acesso ao recurso.

Nos Estados Unidos, estudantes do 10º ao 12º ano poderão usar o Planejador Universitário para criar um plano abrangente que detalha todas as etapas necessárias para suas inscrições, datas importantes de envio e opções disponíveis de ajuda financeira.

Durante os próximos três anos, a OpenAI também apoiará o Laboratório de Bem-Estar Digital do Hospital Infantil de Boston. Cerca de 22 alunos fornecerão feedback sobre padrões de segurança, controles parentais e notificações.

Cryptopolitan afirma que a OpenAI e o Common Sense Media trabalharam juntos em uma medida de votação na Califórnia em janeiro para tornar a IA mais segura para as crianças. A OpenAI pretendia doar pelo menos US$ 10 milhões para esse esforço conjunto.

James Uthmeier, procurador-geral da Flórida, entrou com a primeira ação judicial liderada pelo estado contra a OpenAI e seu CEO, Sam Altman, em junho. Cryptopolitan relatou que, em sua reclamação de 83 páginas, ele alega que o ChatGPT ajudou no suicídio de Adam Raine, de 16 anos.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.