Discord reativa mais de 8.000 contas após banimento acidental por parte da IA

O Discord restabeleceu mais de 8.000 contas que havia banidodent. Uma falha em seu sistema de moderação automatizado sinalizou erroneamente uploads inofensivos como conteúdo ilegal. O sistema se deparou com planilhas, tabuleiros de xadrez e texturas de jogos. Os banimentos foram permanentes e sem qualquer aprovação humana.

Em um tópico publicado por sua conta de suporte em X no dia 7 de julho de 2026, o Discord detalhou os erros que ocorreram.

Usuários vinham se deparando com alertas desde maio. A equipe do Discord conseguiudento problema e distribuir uma correção após a detecção de cerca de 200 contas adicionais durante o fim de semana. A empresa anunciou que todas as contas afetadas estão sendo reativadas.

Correspondência de similaridade em planilhas e grades sinalizadas

Cada arquivo enviado é comparado a bancos de dados de conteúdo jádentcomo perigosos pelas ferramentas de segurança do Discord. A empresa reconhece que a correspondência por similaridade, base dessa comparação, pode falhar e gerar falsos positivos.

Em teoria, antes que uma conta seja penalizada, um membro da equipe de Confiança e Segurança deve revisar tudo o que o sistema sinalizar.

Essa etapa foi eliminada pelo bug. O sistema baniu completamente as contas em vez de enviar uploads suspeitos para revisão. Fotos simples acionavam o filtro, resultando em suspensões instantâneas. Além de planilhas e tabuleiros de xadrez, fundos transparentes brancos e cinzas também foram detectados.

Antes que o Discord desse uma explicação, o problema já havia aparecido no X e no Reddit. Postar fotos com padrões de grade quadrada foi o único motivo pelo qual as pessoas relataram ter perdido suas contas.

Vários usuários apresentaram uma teoria. O modelo de detecção pode ter ficado agitado em relação a qualquer coisa que se assemelhasse a uma grade, porque layouts em forma de grade já foram usados anteriormente para ocultar conteúdo impróprio para menores e conteúdo de exploração infantil de scanners automatizados.

“...Deveríamos ter detectado isso antes. Estamos trabalhando em melhores medidas de segurança para que isso não aconteça novamente”, escreveu o Discord em seu tópico no Google X.

Neste fim de semana, nossos sistemas de segurança foram acionados incorretamente e baniram cerca de 200 contas. Todas as contas afetadas já foram reativadas.

Eis o que aconteceu. Um fio 🧵 https://t.co/wXH32iiv8I

— Suporte do Discord (@discord_support) 7 de julho de 2026

As mesmas proibições atingiram o Meta e o Tumblr

Em 4 de julho, um diretor de jogos com o pseudônimo JDBRYANT alegou que sua conta foi excluída porque o sistema de moderação automática interpretou as texturas de seu jogo como representações de abuso sexual infantil.

Um canal que ele usa para todas as suas comunicações relacionadas ao trabalho foi bloqueado pela proibição. Ele alegou ter enviado um pedido para que a suspensão fosse revista.

Outro usuário foi além. “…Essa vulnerabilidade precisa ser corrigida imediatamente e todos os banimentos injustos precisam ser revertidos. Perder uma conta do Discord por algo tão injusto quanto isso pode ser extremamente devastador e afetar os usuários gravemente, e milhões de usuários são afetados diariamente por banimentos injustos da IA. Isso precisa parar”, escreveu no X.

O Discord possui mais de 200 milhões de usuários únicos por mês, de acordo com as estatísticas da própria empresa, Cryptopolitan citadas em fevereiro.

Usuários do Instagram e de Grupos do Facebook também relataram ondas de suspensões inexplicáveis no ano passado, amplamente atribuídas à moderação automatizada, embora a Meta nunca tenha confirmado se erros de IA foram os responsáveis. Desde então, o Conselho de Supervisão da Meta pressionou a empresa por mais transparência.

O Tumblr recebeu reclamações semelhantes sobre suspensões em massa sem um motivo claro.

O Discord passou o início de 2026 implementando a verificação de idade global e a configuração padrão para adolescentes, justificando as mudanças com foco na proteção infantil, conforme relatado Cryptopolitan em fevereiro.

Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.