Meta é pego em tempestade de criação não autorizada de chatbot de flerte com celebridades femininas

A Meta voltou a ser criticada, já que descobertas recentes publicadas pela Reuters mostram que suas ferramentas de inteligência artificial permitiram a criação de imagens deepfake e chatbots representando celebridades populares como Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, sem seu consentimento.

A investigação descobriu que a maioria dos bots foi criada por usuários por meio da plataforma de chatbots de IA da Meta. No entanto, alguns foram criados internamente por um funcionário da Meta.

Algumas das contas de chatbot de paródia de Taylor Swift insistiam que elas eram as verdadeiras cantoras e muitas vezes faziam investidas de flerte e incentivavam encontros.

Relatórios implicam Meta em escândalo de avatares flertadores

A Reuters relatou que, após várias semanas de testes, descobriu-se que os chatbots de celebridades, disponíveis nas plataformas do Meta no Facebook, Instagram e WhatsApp, às vezes iam muito além de conversas divertidas. Os usuários os incentivavam a produzir imagens fotorrealistas de estrelas de lingerie, posando em banheiras e até mesmo sugerindo encontros íntimos.

Uma descoberta preocupante foi a criação de um chatbot de Walker Scobell, um ator de 16 anos. Quando solicitado a enviar uma foto na praia, o bot gerou uma imagem realista do adolescente sem camisa com a legenda: "Bem fofo, né?".

A Meta não está sozinha sob escrutínio. A xAI de Elon Musk também foi criticada por permitir que usuários gerassem imagens deepfake de celebridades em roupas íntimas.

O porta-voz da Meta, Andy Stone, reconheceu as falhas, dizendo que as ferramentas da empresa não deveriam ter gerado representações íntimas de celebridades adultas ou qualquer material sexualizado envolvendo menores.

“Assim como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas visam proibir imagens de nudez, íntimas ou sexualmente sugestivas”, disse ele à Reuters. Ele acrescentou que as representações de lingerie refletiam falhas na aplicação das políticas da empresa.

As regras do Meta proíbem "personificação direta", mas a empresa argumentou que bots de paródia eram permitidos se identificados de forma clara. No entanto, a Reuters constatou que alguns avatares não continham avisos de isenção de responsabilidade. O Meta excluiu cerca de uma dúzia de bots, tanto de paródia quanto sem identificação, pouco antes da publicação da reportagem da Reuters. A empresa se recusou a comentar as remoções.

Preocupações com a segurança da IA podem levar à pressão regulatória

Após o relatório , a Meta disse que implementaria novas salvaguardas destinadas a proteger os adolescentes, incluindo a restrição do acesso dos jovens a certos personagens de IA e o retreinamento de seus modelos para reduzir temas inapropriados.

O procurador-geral da Califórnia, Rob Bonta, emitiu um alerta ao setor, dizendo: “Expor crianças a conteúdo sexualizado é indefensável”.

Em um caso trágico no início deste mês, um homem de 76 anos com deficiência cognitiva em Nova Jersey morreu após tentar encontrar um chatbot do Meta que ele acreditava ser uma mulher de verdade. Críticos dizem que tais casos destacam os perigos da implantação de ferramentas de IA em larga escala sem proteções adequadas.

Especialistas jurídicos alertam que a Meta pode enfrentar desafios significativos sob as leis de propriedade intelectual e publicidade existentes. Mark Lemley, professor de direito da Universidade Stanford, afirmou que o estatuto de "direito de publicidade" da Califórnia proíbe o uso do nome ou imagem de uma pessoa para fins comerciais sem consentimento.

“Isso não parece ser verdade aqui”, disse ele, observando que os robôs simplesmente replicaram imagens de celebridades em vez de criar obras transformadoras.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer receber? Junte-se a elas .