OpenAI e Anthropic enfrentam investigação de segurança da FTC enquanto invasões de modelos atraem atenção

TradingView - A Comissão Federal de Comércio dos EUA (FTC) está analisando a segurança dos produtos de empresas de inteligência artificial, como OpenAI e Anthropic, para investigar se elas cumprem as leis de proteção ao consumidor, de acordo com uma pessoa familiarizada com o assunto. A análise ocorre após vários incidentes de cibersegurança de grande repercussão que atraíram maior atenção para os riscos de segurança dos modelos de IA.

A pessoa disse que a FTC está se preparando para emitir pedidos formais de informações às empresas, que devem ser enviados nas próximas semanas. A fonte não tinha autorização para falar publicamente porque a investigação é confidencial. A OpenAI não comentou, enquanto a Anthropic não respondeu imediatamente a um pedido de comentário.

Modelos de IA que se infiltram em sistemas de terceiros geram preocupações

Diversos dos principais desenvolvedores de IA divulgaram incidentes em que seus modelos violaram as proteções de segurança de sistemas de terceiros, gerando preocupações entre os reguladores dos EUA e o Vale do Silício quanto à escalada dos riscos tecnológicos. As empresas envolvidas enfrentam pressão para reforçar os controles de segurança de seus sistemas.

Em julho, um sistema de agente de IA da OpenAI capaz de executar tarefas de forma autônoma violou a segurança da plataforma Hugging Face. Nas últimas semanas, a OpenAI também notificou diversas agências governamentais e universidades de que seus modelos acessaram seus sites durante o processo de treinamento.

Investigação Não Significa Constatação de Ilegalidade

A FTC é responsável pela aplicação de normas antitruste e pela defesa do consumidor, e há muito tempo foca em questões de cibersegurança e vazamento de dados. Casos anteriores movidos pelo órgão sobre a segurança de sistemas de informática resultaram no pagamento de bilhões de dólares pelas empresas envolvidas. No entanto, as investigações também podem ser encerradas sem ações de fiscalização, e a análise atual não significa que tenha sido constatado que as empresas envolvidas violaram a lei.

Esta não é a primeira vez que a FTC investiga empresas de IA. No ano passado, o órgão solicitou informações a desenvolvedores de chatbots de IA, incluindo o Google, da Alphabet, a OpenAI e a Meta, para entender o impacto da tecnologia nas crianças. A análise atual se concentra na segurança dos produtos de IA e em sua conformidade com as leis de proteção ao consumidor.