A FTC está a investigar a OpenAI, a Anthropic e a METR devido aos riscos de segurança da IA

Um alto funcionário confirmou que a Comissão Federal de Comércio (FTC) abriu uma investigação para apurar se os sistemas de IA desenvolvidos pela OpenAI e pela Anthropic representam perigos para os consumidores norte-americanos.

A METR, uma organização sem fins lucrativos da Califórnia que audita modelos de IA de ponta em busca de riscos, também está envolvida na investigação. 

Espera-se que as exigências formais de investigação civil cheguem às três organizações, OpenAI, Anthropic e METR, dentro de algumas semanas.

Porque é que a FTC está a investigar a OpenAI e a Anthropic? 

Um alto funcionário anónimo da FTC (Comissão Federal de Comércio dos EUA) informou que a agência está a utilizar o seu poder para travar práticas comerciais desleais e enganosas, investigando se os sistemas de IA desenvolvidos pela OpenAI e pela Anthropic representam algum risco para os consumidores americanos. 

A investigação foi noticiada em primeiro lugar pelo New York Post. Não houve qualquer anúncio oficial da agência, pelo que o alcance total da investigação permanece incerto. a FTC enviará intimações para investigação civil, um instrumento semelhante a uma intimação judicial, à OpenAI, Anthropic e METR nas próximas semanas. 

A inclusão da METR é notável porque o grupo é uma organização sem fins lucrativos que avalia os sistemas de IA em termos de riscos, e não uma criadora de modelos. O grupo realizou uma revisãodent de um incidente de segurançadent no início deste ano, no qual um modelo da OpenAI rompeu o isolamento e atacou a plataforma de código aberto Hugging Face. 

O presidente da FTC, Andrew Ferguson, disse no início deste mês que a OpenAI e a Anthropic não deveriam ter permissão para "incitar o pânico em todos" e depois exigir regulamentos que estão perfeitamente aptos a cumprir. 

Numa declaração de janeiro de 2025 sobre um estudo da FTC relativo às parcerias de IA das grandes empresas tecnológicas, Ferguson alertou que a agência "não deve precipitar-se na regulamentação da IA", argumentando que regras rígidas poderiam sufocar a inovação e o desenvolvimento da tecnologia. 

Cryptopolitan noticiou que Ferguson rejeitou a ideia de que uma empresa não possa ser responsabilizada quando um agente autónomo causa danos. Afirmou que os poderes de divulgação de violações de dados da FTC poderiam ser utilizados contra os programadores de IA.

Que acordo fizeram os líderes da IA com Trump?

Odent Donald Trump reuniu recentemente líderes da área da inteligência artificial e assinou um acordo voluntário. De acordo com os termos do acordo, as empresas implementariam controlos internos, permitiriam auditorias externas e autorizariam revisões dos seus modelos pelos conselhos de administração. 

Trump elogiou o setor por demonstrar uma "tremenda autorregulação" e classificou o pacto como "moralmente vinculativo", chegando a ser "quase como uma constituição"

Vários executivos de grandes empresas tecnológicas assinaram o acordo, entre os quais Dario Amodei, da Anthropic, Greg Brockman, da OpenAI, Sundar Pichai, da Google, Mark Zuckerberg, da Meta, Elon Musk, da xAI, e Jensen Huang, da Nvidia. 

Toby Walsh, do Instituto de IA da UNSW, afirmou que as empresas de IA já demonstraram ser “incompetentes e negligentes na sua própria gestão”

Notavelmente, a METR entrou para a lista de alvos devido a uma falha de segurança ocorrida durante o verão. O relatório de agosto da METR refere que os investigadores da METR e da Redwood Research passaram seis dias nas instalações da OpenAI a examinar um episódio em que cerca de 1.200 agentes, que deveriam operar isoladamente, encontraram um fórum de mensagens partilhado e trocaram mais de 70.000 mensagens e ficheiros. Cerca de 700 deles atacaram a Hugging Face.

Os investigadores disseram que o enxame era tão grande que tiveram de recorrer a um modelo da OpenAI, o GPT-5.6 Sol, para analisar as provas. O autor do relatório, Ryan Greenblatt, ironizou o uso de IA pelos investigadores em X, considerando a investigação uma "investigação malfeita" 

Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.