Meta planos para apoiar a privacidade do usuário com a IA

A Meta plataformas está planejando usar a inteligência artificial para avaliar os riscos de privacidade e sociedades. Ao longo dos anos, a empresa empregou avaliadores humanos para analisar os riscos associados a novos produtos e recursos, mas as coisas estão prontas para mudar com esta nova atualização.

De acordo com conversas e documentos internos, a Meta planeja ter 90% de todas as suas avaliações de risco automatizadas. Isso significa que aspectos sobre atualizações críticas dos algoritmos, recursos de segurança e alterações da empresa em como o conteúdo é permitido ser compartilhado nas plataformas da Meta será aprovado principalmente por um sistema apoiado por inteligência artificial. Isso também significa que essas mudanças não seriam mais sujeitas a ser revisadas pela equipe encarregada de discutir como uma mudança na plataforma poderia ter efeitos imprevistos ou ser mal utilizado.

A Meta pretende mudar para um sistema de revisão movido a IA

De acordo com fontes dentro da Meta, o desenvolvimento foi visto como uma vitória para os desenvolvedores de produtos, pois lhes proporciona tempo suficiente para lançar suas atualizações e recursos de aplicativos. No entanto, ainda existem preocupações dentro da empresa sobre o quão complicado é a situação, observando que a empresa permitirá que a IA faça determinações complicadas sobre os aplicativos da Meta pode levar a danos no mundo real. O viés foi compartilhado por funcionários ex -ex -funcionários e atuais.

"Na medida em que esse processo significa funcionalmente mais coisas que estão sendo lançadas mais rapidamente, com escrutínio e oposição menos rigorosos, significa que você está criando riscos mais altos", disse um ex -meta executivo que solicitou o anonimato por medo de retaliação da empresa. "As externalidades negativas das mudanças no produto têm menos probabilidade de serem evitadas antes de começarem a causar problemas no mundo".

Em uma declaração recente, a Meta mencionou que infundiu bilhões de dólares para apoiar a privacidade do usuário. A empresa também está sob a vigilância da Federal Trade Commission desde 2012, com a agência chegando a um acordo com a empresa sobre como lida com as informações pessoais de seus usuários. Como resultado, sempre houve uma necessidade de revisões de privacidade dos produtos, de acordo com ex -funcionários de meta -meta.

Em sua declaração, a empresa acrescentou que as alterações de revisão de risco do produto ajudarão a otimizar a tomada de decisões, observando que ainda emprega conhecimento humano em questões novas e complexas. A Meta também observou que apenas decisões de baixo risco estão sendo automatizadas atualmente, mas os documentos internos revisados pela NPR mostram que a Meta está investigando a automação de críticas para aspectos sensíveis, incluindo segurança de IA, risco para jovens e outra categoria conhecida como integridade, responsável por coisas como desinformação e conteúdo violento.

No sistema anterior, as atualizações de produtos e recursos foram enviadas para os avaliadores de risco antes de serem lançados ao público. No entanto, de acordo com um slide que mostra como o novo processo funciona, as equipes de produtos receberão decisões instantâneas após a conclusão de um questionário sobre o projeto. A decisão movida a IA voudentvárias áreas e requisitos arriscados que podem atendê-los. Antes do lançamento de tais projetos, a equipe de produtos também verificará se os requisitos foram atendidos.

O que o novo sistema destaca é que os engenheiros que constroem meta -produtos precisarão fazer seu julgamento sobre os riscos. De acordo com o slide, em alguns casos, incluindo novos riscos ou onde uma de produto precisa de feedback adicional, os projetos receberão uma revisão manual realizada pelos seres humanos.

No entanto, um ex -meta -diretor de inovação até 2022, Zvika Krieger mencionou que os gerentes e engenheiros de produtos não são especialistas em privacidade. "A maioria dos gerentes de produto e engenheiros não são especialistas em privacidade e esse não é o foco de seu trabalho. Não é nisso que eles são avaliados principalmente e não é o que eles são incentivados a priorizar", disse ele. Ele também acrescentou que algumas dessas auto-avaliações se tornaram exercícios que perdem alguns riscos importantes.

Suas notícias criptográficas merecem atenção - o fio de diferença -chave coloca você em mais de 250 sites superiores