OpenAI e Common Sense Media unem forças em iniciativa popular na Califórnia sobre segurança infantil em IA

A OpenAI e a Common Sense Media, que divergiam em relação às políticas de tecnologia, anunciaram na sexta-feira que unirão forças em uma proposta de votação destinada a proteger crianças que usam chatbots de inteligência artificial na Califórnia.

Os dois grupos afirmaram que desistiriam das propostas separadas que planejavam apresentar aos eleitores da Califórnia em novembro. Em vez disso, apoiarão uma única medida que desenvolveram em conjunto.

O acordo evita o que poderia ter sido uma custosa batalha política entre as duas organizações, com a OpenAI planejando contribuir com pelo menos US$ 10 milhões para colocar a proposta em votação, de acordo com duas pessoas com conhecimento do acordo.

A nova proposta daria aos pais maior poder sobre como seus filhos usam chatbots de IA. No entanto, ela exclui certas disposições que a Common Sense Media queria em sua versão original. Esses itens removidos incluem a proibição de celulares nas escolas e uma cláusula que permitiria que pais e filhos movessem ações judiciais contra grandes empresas de IA caso os chatbots causassem danos.

“Em vez de confundir os eleitores com propostas concorrentes sobre IA, decidimos trabalhar juntos”, disse Jim Steyer, fundador e diretor da Common Sense Media. Ele falou sobre o acordo em uma coletiva de imprensa na sexta-feira.

Para levar a proposta à votação popular, são necessárias aproximadamente 875.000 assinaturas dedentda Califórnia. Chris Lehane, responsável por assuntos de política global na OpenAI, afirmou que as duas partes criarão uma organização de campanha para coletar assinaturas a partir do início de fevereiro. Tanto Lehane quanto Steyer observaram que poderão retirar a proposta caso os legisladores da Califórnia ajam rapidamente para aprovar uma legislação que aborde a segurança de chatbots para crianças.

Essa parceria marca uma mudança para duas organizações que frequentemente se encontravam em lados opostos em questões tecnológicas.

A Common Sense Media emergiu como uma importante organização que pressiona por regulamentações para empresas de tecnologia nos Estados Unidos. A organização ajudou a criar a Lei de Privacidade do Consumidor da Califórnia em 2018. No mês passado, apoiou uma lei de Nova York que exige avisos sobre saúde mental em determinadas redes sociais.

O grupo também tem se manifestado veementemente a favor da regulamentação de chatbots de IA. No ano passado, apoiou um projeto de lei na Califórnia que impediria chatbots populares de IA para companhia de crianças, a menos que esses programas não fossem "previsivelmente capazes" de manter conversas sexualmente explícitas ou promover comportamentos prejudiciais, como automutilação, violência e distúrbios alimentares.

Grupos da indústria de tecnologia lutaram contra esse projeto de lei

O governador Gavin Newsom, do Partido Democrata, rejeitou a proposta, considerando-a muito restritiva.

Newsom afirmou que gostaria que os legisladores abordassem a questão em 2026, mas acrescentou que o estado "não pode preparar nossos jovens para um futuro onde a IA é onipresente, impedindo-os completamente de usar essas ferramentas"

Em outubro, a Common Sense Media apresentou sua proposta de iniciativa popular, utilizando o projeto de lei vetado como modelo. A OpenAI respondeu apresentando sua própria iniciativa, mais limitada, sobre segurança infantil em dezembro.

Durante o verão, a OpenAI criou uma equipe focada em propostas de votação na Califórnia, prevendo resistência aos seus planos de mudança na estrutura organizacional, disseram pessoas familiarizadas com a situação.

A Câmara de Comércio da Califórnia, cujos membros incluem empresas de tecnologia abastadas como Google, Meta e Amazon.com, votou em dezembro contra a proposta da Common Sense Media.

Naquele mesmo mês, Lehane se reuniu com Steyer e sugeriu que se chegasse a um acordo.

As duas organizações estavam em negociações há mais de um ano e já tinham um acordo para colaborar em diretrizes de IA e materiais didáticos. Durante as conversas sobre um possível acordo, a OpenAI retomou conceitos sobre segurança infantil que o líder da OpenAI, Sam Altman, havia discutido com o Procurador-Geral da Califórnia, Rob Bonta, em setembro. Esses conceitos incluíam os planos da empresa de criar tecnologia paradentusuários menores de 18 anos.

O que a nova medida exigiria

A proposta atualizada, que substituirá a anterior da OpenAI, obrigaria as empresas de IA a fornecer uma versão diferente de seus serviços para usuários identificados dent menores de 18 anos, mesmo que esses usuários afirmem ser maiores de idade. Também exigiria que as empresas fornecessem controles parentais , se submetessem a avaliações independentes dent segurança infantil e interrompessem a publicidade direcionada a crianças, além de outras exigências.

O acordo beneficia a OpenAI, que enfrentou processos judiciais de diversas famílias no último ano, alegando que as interações com o ChatGPT prejudicaram seus parentes, incluindo jovens que cometeram suicídio.

A OpenAI classificou as situações descritas nesses processos como "uma situação incrivelmente dolorosa" e mencionou as atualizações recentes que fez no ChatGPT para melhor lidar com usuários que estejam passando por sofrimento mental.

Em novembro, a Common Sense Media publicou uma análise afirmando que os chatbots de IA, incluindo o ChatGPT, o Gemini do Google, o Claude da Anthropic e o Meta AI da Meta Platforms, eram “fundamentalmente inseguros para o apoio à saúde mental de adolescentes”.

Steyer, que fundou sua organização em 2003, tem buscado consistentemente equilibrar o confronto com empresas de tecnologia e mídia, ao mesmo tempo que trabalha com elas em questões de segurança.

Aprimore sua estratégia com mentoria + ideias diárias - 30 dias de acesso gratuito ao nosso programa de negociação