Reino Unido intensifica medidas contra chatbots com inteligência artificial para proteger crianças online

O governo do Reino Unido está a tomar medidas para reforçar a regulamentação da utilização de chatbots de inteligência artificial, de forma a proteger melhor as crianças contra conteúdos nocivos e ilegais. 

O primeiro-ministro Keir Starmer apresentou um processo para preencher uma lacuna legal que permitia que provedores de chatbots operassem fora das principais leis de segurança online. A medida obrigará as empresas que criam e operam chatbots com inteligência artificial a combater ativamente conteúdo ilegal e garantir que suas plataformas sejam seguras para usuários mais jovens.

Agora, o governo afirma que mudará a forma como a Lei de Segurança Online é aplicada e especificará como os chatbots devem cumprir a lei. A regulamentação foi elaborada bem antes no processo, mas adaptada principalmente às demandas das plataformas de mídia social e fóruns públicos onde as pessoas podiam publicar seu conteúdo. Nem os administradores de chatbots de IA privados nem os usuários receberam a mesma atenção, e suas responsabilidades permanecem obscuras. Starmer prometeu corrigir essa lacuna em breve.

As empresas de chatbots precisam cumprir as mesmas obrigações legais que outras empresas online, alertou ele, ou serão penalizadas. O governo afirma que essa mudança deve garantir que os provedores de chatbots monitorem ativamente seus sistemas e bloqueiem conteúdo ilegal. Antes do anúncio, Starmer disse que nenhuma empresa de tecnologia estaria isenta da lei.

O governo também teme que tratar os chatbots de IA de forma diferente das plataformas de redes sociais possa deixar as crianças vulneráveis a conteúdo prejudicial ou inadequado. As autoridades acreditam que, para que os chatbots de IA alcancem o público-alvo desejado, principalmente adolescentes e jovens, são necessárias proteções mais rigorosas.

Novos poderes para lidar com a tecnologia em rápida evolução

Além de preencher lacunas legais , o governo criará novos poderes que permitirão uma ação mais rápida quando surgirem riscos. Em vez de esperar que o Parlamento aprove leis totalmente novas, os órgãos reguladores responderão à tecnologia com mais agilidade.

Esta é uma forma de garantir que as proteções acompanhem o rápido progresso da inteligência artificial. As ferramentas de IA estão aprimorando-se rapidamente e expandindo-se para novas áreas. Consequentemente, os riscos podem surgir repentinamente, e os reguladores precisam de flexibilidade para lidar com eles. 

Starmer apontou recentemente para os riscos de conteúdo prejudicial gerado por IA, como casos em que a tecnologia está sendo usada para criar imagens sexualizadas de pessoas sem o seu consentimento. 

Ele considerou tais usos inaceitáveis e afirmou que as leis existentes devem ser aplicadas para combatê-los. O governo disse que uma fiscalização mais rigorosa obrigaria as empresas a projetar sistemas mais seguros desde o início. 

Essas medidas podem incluir proteções integradas ao software de chatbot paradente impedir conteúdo ilegal antes que os usuários o vejam. As empresas de tecnologia também deverão assumir a responsabilidade pelo comportamento de seus sistemas de IA. 

Isso significa que eles precisam monitorar os resultados, aprimorar os recursos de segurança para tornar os sistemas mais seguros e responder rapidamente quando falhas forem detectadas.

Governo toma medidas para proteger crianças de danos

A repressão aos chatbots de IA faz parte do desafio maior da segurança infantil em praticamente qualquer plataforma digital. O governo está considerando novas medidas que podem reduzir ainda mais os riscos. 

Uma das sugestões em análise é a exigência de que os usuários tenham uma certa idade para acessar as redes sociais. As autoridades também estão investigando como a limitação de recursos como a rolagem infinita pode incentivar o uso excessivo de telas, além de dificultar que os jovens se desconectem de conteúdo prejudicial ou viciante .

Essas mudanças podem ocorrer após consultas públicas sobre o bem-estar infantil online. Pais, educadores e especialistas em segurança estão preocupados com o impacto das plataformas digitais na saúde mental dos jovens e com a quantidade de exposição a conteúdo inadequado. 

O objetivo mais amplo do governo é criar um ambiente online mais seguro, onde as crianças possam se beneficiar da tecnologia sem serem expostas a danos graves. 

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter .