Designer berlinense afirma que camisola de "camuflagem digital" de 88 dólares esconde quem a veste de câmaras com inteligência artificial

O artista berlinense Simon Weckert criou uma camisa de botões chamada Camuflagem Digital que as câmaras de vigilância com inteligência artificial não conseguem identificar como um ser humano.

A criação da peça de roupa é uma resposta direta ao sistema de vídeo com inteligência artificial que será ativado este mês no terminal de transportes Kottbusser Tor da cidade.

Como é que uma camisa o pode proteger da vigilância?

Simon Weckert, um artista de Berlim, lançou uma t-shirt chamada Digital Camouflage, que supostamente pode reduzir a confiança de um software de deteção de objetos em reconhecer um ser humano.

Weckert afirmou que estes sistemas nunca aprenderam de facto o que uma pessoa é, e apenas aprenderam como as pessoas tendem a parecer a partir de milhões de fotos de formação; contornos e textura nas camadas iniciais, e depois o contorno da cabeça e dos ombros e as proporções dos membros em camadas mais profundas.

A camuflagem digital explora este método de treino com uma mistura chamativa de formas rosa, laranja e verde.

Weckert explicou que as cores saturadas iluminam as primeiras camadas de uma rede, enquanto as formas sobrepostas distorcem o contorno do corpo a tal ponto que o detetor não consegue voltar a juntar as partes numa única figura.

Para um ser humano, a camisa parece um hipnotizante estampado havaiano, mas para as modelos de vigilância, não significa nada.

Weckert construiu o padrão através de um "ciclo adversarial", no qual gerava uma impressão digital candidata, mostrava-a a um detetor, media o grau de certeza do software de que tinha identificado uma pessoa e, em seguida, ajustava e repetia o processo até obter resultados satisfatórios.

Segundo os relatos, utilizou um método generativo chamado TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) para executar estas rondas e testou os resultados contra o YOLO, um sistema de deteção em tempo real de código aberto construído com a mesma classe de tecnologia por detrás de muitos produtos de vigilância comerciais.

No entanto, Weckert esclareceu que a camisola não foi concebida para contornar uma câmara governamental específica, mas sim para questionar quanta confiança merece um sistema se um tecido barato o consegue enganar.

No seu próprio site, sublinha que a t-shirt "não é uma promessa de anonimato" e não faz qualquer afirmação sobre qualquer implementação específica, precisamente porque pessoas de fora não podem testar estes sistemas. A peça é vendida por cerca de 88 dólares, sendo que uma percentagem de cada venda se destina a grupos de direitos civis digitais.

Porque é que as pessoas estão subitamente a procurar proteção contra a vigilância?

O site de Weckert explica que as câmaras, a que chama scanners comportamentais, serão instaladas em Kottbusser Tor, uma movimentada estação de metro no bairro de Kreuzberg, em Berlim. O software tem como objetivo classificar os peões em “normais” e “suspeitos”. Acredita que mais três locais em Berlim serão contemplados em breve.

Nos Estados Unidos, o governador do Texas, Greg Abbott, ordenou na quinta-feira à noite às agências estaduais que suspendessem o financiamento da Flock Safety, empresa que detém mais de 120 mil leitores de matrículas em 49 estados. O senador republicano Josh Hawley também abriu uma investigação sobre a forma como a empresa lida com os dados recolhidos.

Os leitores de matrículas da Flock Safety receberam críticas significativas após relatos de que os agentes da autoridade abusaram gravemente do sistema para fins pessoais, como tracex-namoradas, cônjuges e rivais amorosos.

Num caso extremo, um polícia do Kentucky acedeu ao sistema Flock aproximadamente 2.000 vezes para monitorizar os movimentos da sua ex-companheira. Outro polícia na Geórgia, que também era chefe da polícia, realizou mais de 600 buscas à sua ex-namorada e à filha desta antes de tirar a própria vida enquanto enfrentava acusações de perseguição e uso indevido de equipamento policial.

A camisola não é a primeira tentativa de Weckert de lutar contra o sistema ou de enviar uma mensagem. Em 2020, arrastou um carrinho com 99 telemóveis pelas ruas de Berlim para simular um engarrafamento no Google Maps, demonstrando que os sistemas baseados em inteligência artificial são facilmente manipulados.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.