A aposta da Apple na IA põe à prova o seu compromisso com a privacidade

A Apple sempre beneficiou de uma valorização superior ao mercado, baseada na qualidade do hardware, num ecossistematrone na lealdade inabalável dos clientes. No entanto, na era da IA, a empresa enfrenta um desafio mais complexo em termos de como manter a sua reputação no que diz respeito ao respeito pela privacidade, enquanto a sua tecnologia se torna mais personalizada, mais integrada na vida digital do utilizador e, por vezes, depende de processos que vão para além do próprio dispositivo.

O Financial Times resumiu o dilema da Apple no seu título:

“O prémio de confiança da Apple na era da IA.”

Esta abordagem é significativa, dado que a Apple está agora a apelar aos seus clientes para estenderem a mesma confiança que depositam nos seus dispositivos a um assistente muito mais ávido de informação.

A 14 de setembro, a Apple lançou a sua mais recente versão da "Apple Intelligence", que inclui uma versão beta da Siri em inglês. A empresa descreveu a nova versão como uma Siri "totalmente nova", capaz de compreender o contexto pessoal, reconhecer o que está no ecrã e executar mais ações em diferentes aplicações.

O que a Apple está a pedir aos utilizadores para entregarem

A Siri atualizada consegue utilizar informações pessoais de todos os dispositivos do utilizador, bem como o conteúdo apresentado no ecrã, para responder a questões e executar ações.

De acordo com a página de privacidade da Apple, cada pedido é avaliado para determinar se pode ser executado utilizando os dados do dispositivo ou se deve utilizar o Private Cloud Compute (PCC). A estratégia de privacidade da Apple começa com umatrongarantia sobre a forma como os pedidos são tratados após chegarem aos servidores da empresa:

Com o Private Cloud Compute, os seus dados nunca são disponibilizados à Apple — são utilizados exclusivamente para satisfazer os seus pedidos.

Esta garantia é crucial para a proposta de confiança. A Apple afirma que o software do servidor pode ser examinado por especialistasdent , enquanto as informações e interações privadas do utilizador não são utilizadas para o treino dos modelos fundamentais, a menos que os utilizadores concordem.

Estas preferências são importantes, uma vez que, de acordo com o programa Improve Siri & Apple Intelligence, o áudio, as transcrições e outras informações relevantes podem ser armazenadas até dois anos e comparadas com identificadores gerados aleatoriamentedentdispositivo. Parte da informação pode ser analisada por humanos, mas a análise de áudio é feita exclusivamente por funcionários da Apple.

Por outras palavras, a confiança não se baseia apenas na arquitetura da Apple, mas também nas opções padrão e nas preferências do utilizador.

A história da confiança corre agora em hardware de outras empresas

Em junho, a Apple anunciou numa atualização de segurança que estava a trabalhar com a Google e a NVIDIA para executar cargas de trabalho exigentes do Apple Intelligence na Google Cloud utilizando GPUs NVIDIA, estendendo o PCC (Personal Cloud Platform) aos centros de dados de terceiros pela primeira vez. A Apple afirmou ainda que a sua próxima geração de Apple Foundation Models foi construída com a Google, utilizando a tecnologia por detrás do Gemini.

Segundo a Apple, as salvaguardas do PCC monitorizam estas cargas de trabalho e os binários continuam disponíveis para exame por terceiros independentesdent de terceiros auditorias SOC 3 para o sistema de aprovisionamento do PCC, mas a sua própria documentação especifica o seguinte:

Os exames não foram realizados para avaliar o desempenho ou a integridade dos serviços de inteligência artificial da Apple.

Por outras palavras, o teste mede que tipo de controlos e características o PCC tem, em vez de avaliar se a IA da Siri é precisa e fiável. Esta distinção determina a forma como o relatório SOC 3 pode ser utilizado como prova da qualidade da tecnologia de IA da Apple.

Porque é que a confiança é um bem tão escasso atualmente?

A possibilidade de progresso é facilmente visível e percetível, dado que o uso da IA está a crescer mais rapidamente do que a confiança na tecnologia. Uma sondagem realizada em junho pelo Pew Research Center, junto de 5.119 adultos nos EUA, revelou que 49% deles já tinham utilizado chatbots pelo menos uma vez, enquanto apenas 33% admitiram ter feito essa utilização em 2024.

A mesma pesquisa revelou que 63% dosdentconsideram o processo de desenvolvimento de tecnologias de IA demasiado rápido, 71% acreditam que a IA tornará a informação pessoal mais vulnerável e 59% não confiam na capacidade das empresas locais para lidar adequadamente com a tecnologia.

Considerando a dimensão da Apple, a privacidade pode transformar-se numa característica competitiva em vez de um mero recurso de marketing. Se os clientes valorizarem as medidas de proteção comprovadas, os concorrentes e os fornecedores de cloud serão obrigados a combinar as características do modelo com inferênciadent, auditorias externas e infraestrutura auditável.

A proposta de confiança da Apple também está sob escrutínio noutras questões para além da IA. Cryptopolitan noticiou a mediação do Reino Unido para o acesso aos dados encriptados da Apple na nuvem. A Reuters a 17 de setembro que a primeira diretiva foi retirada após negociações com os EUA, mas uma segunda diretiva, datada de julho, aplica-se aos clientes da Apple residentes no Reino Unido.

A ponte criptográfica: verificar em vez de confiar

A criptomoeda foi desenvolvida com base no mesmo conceito: diminuir a dependência da confiança institucional através de declarações criptograficamente verificáveis, o que está a ser apresentado em alguns inquéritos oficiais. Um documento de trabalho do Banco de Compensações Internacionais (BIS), divulgado a 2 de setembro, defendia a ligação das impressões digitais criptográficas de estatísticas públicas ao XRP , oferecendo assim aos utilizadores a possibilidade de confirmar a sua origem e integridade.

Além disso, o Boletim do BIS publicado em Julho avaliou o equilíbrio entre descentralização, segurança e escalabilidade, concluindo que algumas respostas à fragmentação da blockchain poderiam restaurar a confiança e a dependência da governação.

A Apple situa-se algures entre estes dois extremos. Embora continue a pedir aos seus utilizadores que confiem na empresa, está agora cada vez mais a tentar tornar essa confiança verificável através da publicação de software, da encriptação e da auditoriadent dos seus sistemas e processos.

O facto de esta combinação consolidar realmente o seu estatuto premium poderá revelar-se um teste crucial para a privacidade face à tecnologia de IA.

O que devem os utilizadores compreender sobre o modelo de privacidade de IA da Apple?

A principal distinção reside entre os dados que a Apple afirma recolher, os dados que processa no dispositivo e os dados processados na computação em nuvem privada. O modelo da Apple foi concebido para limitar o acesso direto a informações pessoais, permitindo, ao mesmo tempo, que cargas de trabalho de IA mais exigentes utilizem a computação em nuvem.

O modelo da Apple muda o foco da questão, deixando de ser simplesmente "A Apple recolhe os meus dados?" para "Que dados são processados, onde, durante quanto tempo, sob quedente sujeitos a que verificação externa?". Esta distinção torna-se cada vez mais importante à medida que os sistemas de IA obtêm acesso a mais informações pessoais e realizam mais ações em nome do utilizador.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.