El Reino Unido toma medidas enérgicas contra los chatbots de inteligencia artificial para proteger a los niños en línea

El gobierno del Reino Unido está tomando medidas para endurecer las regulaciones sobre el uso de chatbots de inteligencia artificial para proteger mejor a los niños contra contenido dañino e ilegal. 

El primer ministro Keir Starmer ha presentado un proceso para subsanar un vacío legal que permitía a los proveedores de chatbots operar al margen de las principales leyes de seguridad en línea. Esto obligará a las empresas que crean y gestionan chatbots de IA a combatir activamente el contenido ilegal y garantizar la seguridad de sus plataformas para los usuarios más jóvenes.

Ahora, el gobierno afirma que cambiará la forma en que se aplica la Ley de Seguridad en Línea y especificará cómo los chatbots deben cumplirla. La regulación se diseñó mucho antes, pero se adaptó principalmente a las demandas de las plataformas de redes sociales y los foros públicos donde las personas podían publicar su contenido. Ni quienes gestionan chatbots privados de IA ni quienes los utilizan recibieron la misma cobertura, y sus responsabilidades siguen sin estar claras. Starmer prometió subsanar esta laguna pronto.

Las empresas de chatbots deben cumplir con las mismas obligaciones legales que otras empresas en línea, advirtió, o serán sancionadas. El gobierno afirma que este cambio debe garantizar que los proveedores de chatbots supervisen activamente sus sistemas y bloqueen el material ilegal. Antes de su anuncio, Starmer afirmó que ninguna empresa tecnológica estaría exenta de la ley.

El gobierno también teme que un trato diferente a los chatbots de IA que a las plataformas de redes sociales pueda dejar a los niños expuestos a contenido dañino o inapropiado. Las autoridades creen que para que los chatbots de IA lleguen a su público objetivo, en particular a los usuarios adolescentes y jóvenes, se requieren protecciones más estrictas.

Nuevos poderes para afrontar la rápida evolución tecnológica

Además de subsanar lagunas legales , el gobierno creará nuevas facultades que permitirán actuar con mayor rapidez ante la aparición de riesgos. En lugar de esperar a que el Parlamento apruebe leyes completamente nuevas, los reguladores responderán a la tecnología con mayor celeridad.

Esta es una forma de garantizar que las protecciones sigan el ritmo del rápido progreso de la inteligencia artificial. Las herramientas de IA están mejorando rápidamente y se están expandiendo a nuevas áreas. Como resultado, los riesgos pueden manifestarse repentinamente y los reguladores necesitan flexibilidad para abordarlos. 

Starmer señaló recientemente los riesgos del contenido dañino generado por IA, como los casos en que se utiliza la tecnología para crear imágenes sexualizadas de personas sin su consentimiento. 

Calificó tales usos de inaceptables y afirmó que las leyes vigentes deberían aplicarse contra ellos. El gobierno afirmó que una mejor aplicación de la ley obligaría a las empresas a diseñar sistemas más seguros desde el principio. 

Estas podrían incluir protecciones integradas en el software de chatbot paradenty prevenir contenido ilegal antes de que los usuarios lo vean. Las empresas tecnológicas también asumirán la responsabilidad del comportamiento de sus sistemas de IA. 

Esto significa que necesitan monitorear los resultados, mejorar las características de seguridad para que los sistemas sean más seguros y responder rápidamente cuando se detectan fallas.

El Gobierno toma medidas para proteger a los niños de daños

La represión de los chatbots de IA forma parte del desafío mayor de la seguridad infantil en prácticamente cualquier plataforma digital. El gobierno está considerando nuevas medidas que podrían reducir aún más el riesgo. 

Una sugerencia en desarrollo es exigir a los usuarios tener cierta edad para acceder a las redes sociales. Las autoridades también están explorando cómo limitar funciones como el desplazamiento infinito puede fomentar el uso excesivo de pantallas, además de dificultar que los jóvenes se desvinculen de contenido dañino o adictivo .

Estos cambios podrían surgir tras consultas públicas sobre el bienestar infantil en línea. Padres, educadores y expertos en seguridad están preocupados por el impacto de las plataformas digitales en la salud mental de los jóvenes y la exposición a contenido inapropiado. 

El objetivo más amplio del gobierno es crear un entorno en línea más seguro donde los niños puedan beneficiarse de la tecnología sin estar expuestos a daños graves. 

Si estás leyendo esto, ya estás al tanto. Sigue leyendo nuestro boletín .