Discord restablece más de 8.000 cuentas después de que la IA las baneara por error

Discord ha reactivado más de 8000 cuentas que había bloqueado pordent. Un fallo en su sistema de moderación automatizada marcó erróneamente como ilegales archivos subidos inofensivos. El sistema detectó hojas de cálculo, tableros de ajedrez y texturas de juegos. Los bloqueos fueron permanentes y se realizaron sin aprobación humana.

En un hilo publicado por su cuenta de soporte en X el 7 de julio de 2026, Discord detalló los errores que se produjeron.

Los usuarios habían estado experimentando problemas desde mayo. El equipo de Discord logródentel problema y distribuir una solución después de que se detectaran aproximadamente 200 cuentas adicionales durante el fin de semana. La compañía ha anunciado que todas las cuentas afectadas están siendo reactivadas.

Comparación de similitudes entre hojas de cálculo y cuadrículas

Cada archivo subido se compara con bases de datos de contenido que ya han sidodentcomo peligrosos por las herramientas de seguridad de Discord. La empresa reconoce que la coincidencia de similitudes, base de dicha comparación, puede fallar y generar falsos positivos.

En teoría, antes de que se penalice una cuenta, un miembro del equipo de Confianza y Seguridad debería revisar todo aquello que el sistema señale como sospechoso.

Ese paso fue eliminado por el error. El sistema bloqueó las cuentas por completo en lugar de enviar las cargas dudosas a un revisor. Las fotos simples activaban el filtro, lo que resultaba en suspensiones instantáneas. Además de las hojas de cálculo y los tableros de ajedrez, también se detectaron fondos blancos y grises transparentes.

Antes de que Discord diera una explicación, el problema apareció en X y Reddit. Publicar imágenes con patrones de cuadrícula cuadrada fue la única razón por la que la gente reportó la pérdida de sus cuentas.

Varios usuarios plantearon una teoría. El modelo de detección podría haberse vuelto inestable ante cualquier cosa que se pareciera a una cuadrícula, ya que este tipo de diseños se han utilizado anteriormente para ocultar contenido inapropiado y de explotación infantil de los escáneres automatizados.

“…Deberíamos haberlo detectado antes. Estamos trabajando en mejores medidas de seguridad para que esto no vuelva a suceder”, escribió Discord en su hilo X.

Este fin de semana, nuestros sistemas de seguridad se activaron incorrectamente y bloquearon alrededor de 200 cuentas. Todas las cuentas afectadas han sido restablecidas.

Esto es lo que pasó. Un hilo 🧵 https://t.co/wXH32iiv8I

— Soporte de Discord (@discord_support) 7 de julio de 2026

Las mismas prohibiciones afectaron a Meta y Tumblr

El 4 de julio, un director de videojuegos conocido como JDBRYANT afirmó que su cuenta fue eliminada porque el sistema de moderación automática interpretó las texturas de su juego como representaciones de abuso sexual infantil.

El canal que utiliza para todas sus comunicaciones laborales fue interrumpido por la prohibición. Afirmó haber presentado una solicitud para que se revise la suspensión.

Otro usuario fue más allá. «…Esta vulnerabilidad debe corregirse de inmediato y deben revocarse todas las prohibiciones injustas. Perder una cuenta de Discord por algo tan injusto puede ser devastador y afectar gravemente a los usuarios, y cada día millones de usuarios se ven afectados por prohibiciones injustas de IA. Esto debe terminar», escribió en X.

Discord cuenta con más de 200 millones de usuarios únicos al mes, según las propias estadísticas de la compañía, Cryptopolitan citadas por en febrero.

El año pasado, usuarios de Instagram y de grupos de Facebook también reportaron oleadas de suspensiones inexplicables, atribuidas en gran medida a la moderación automatizada, aunque Meta nunca confirmó si se debían a errores de IA. Desde entonces, el Consejo de Supervisión de Meta ha presionado a la empresa para que sea más transparente.

Tumblr recibió quejas similares sobre suspensiones masivas sin motivo aparente.

Discord dedicó los primeros meses de 2026 a implementar la verificación de edad a nivel mundial y la configuración de "adolescente por defecto", enmarcando los cambios en torno a la protección infantil, como informó Cryptopolitan en febrero.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!