Trabalhadores estão usando ferramentas de IA para criar recibos de despesas falsos, alertam empresas

Empresas no mundo todo estão enfrentando um problema crescente, pois os funcionários usam softwares de inteligência artificial para criar recibos de despesas falsos, marcando uma reviravolta tecnológica na fraude no local de trabalho.

O problema se agravou desde que grandes empresas de tecnologia, como a OpenAI e o Google, lançaram novos programas de IA capazes de criar imagens realistas. Empresas de software de despesas empresariais afirmam que agora estão vendo muito mais recibos falsos sendo entregues por funcionários.

A AppZen, que desenvolve softwares para trac despesas comerciais, descobriu que recibos falsos gerados por IA representaram cerca de 14% de todos os documentos fraudulentos enviados em setembro. No ano passado, não houve nenhum. Outra empresa, a Ramp, afirmou que seu novo software de detecção detectou mais de US$ 1 milhão em faturas falsas em apenas 90 dias.

Uma pesquisa com gestores financeiros nos Estados Unidos e no Reino Unido mostrou a extensão do problema. Cerca de 30% dos profissionais do setor financeiro entrevistados pela empresa de gestão de despesas Medius disseram ter notado um aumento no número de recibos falsos após o lançamento do GPT-4o pela OpenAI no ano passado.

“Esses recibos ficaram tão bons que dizemos aos nossos clientes: 'Não confiem em seus olhos'”, disse Chris Juneau, vice-dent sênior e chefe de marketing de produtos da SAP Concur. Sua empresa é uma das maiores plataformas tracde despesas do mundo, processando mais de 80 milhões de verificações de conformidade por mês usando IA.

Muitas plataformas notaram um grande aumento nos recibos feitos por IA depois que a OpenAI lançou os melhores recursos de criação de imagens do GPT-4o em março.

Questionada sobre o assunto, a OpenAI disse ao Financial Times que toma medidas quando as pessoas violam suas regras. A empresa também afirmou que suas imagens contêm informações ocultas que mostram que foram criadas pelo ChatGPT.

A IA torna a fraude documental acessível a todos

No passado, para produzir recibos falsos , era preciso saber editar fotos ou pagar alguém para fazer isso por meio de serviços online. Agora, programas de IA gratuitos e fáceis de usar permitem que os trabalhadores criem recibos falsos em segundos, simplesmente digitando instruções simples para chatbots.

Vários recibos falsos mostrados ao Financial Times por empresas de gestão de despesas pareciam muito reais. Incluíam papel amassado, listas detalhadas de itens que correspondiam a cardápios reais de restaurantes e assinaturas.

“Esta não é uma ameaça futura; já está acontecendo. Embora atualmente apenas uma pequena porcentagem de recibos não conformes seja gerada por IA, esse número tende a aumentar”, disse Sébastien Marchon, que administra a plataforma de gestão de despesas Rydoo.

Empresas reagem com ferramentas de detecção de IA

Como esses recibos falsos parecem tão realistas, as empresas agora estão usando programas de IA para detectá-los, enquanto os trabalhadores humanos têm dificuldade para distinguir entre o verdadeiro e o falso.

O software de detecção funciona verificando os dados ocultos em arquivos de imagem para ver se foram criados por um programa de IA. Mas os funcionários podem facilmente remover essas informações tirando uma foto ou captura de tela do recibo falso.

Para reagir, o software também examina outros detalhes, como nomes e horários de servidores repetidos, bem como informações mais amplas sobre a viagem de negócios do trabalhador.

“A tecnologia consegue analisar tudo com tanto foco e atenção que os humanos, depois de um tempo, as coisas passam despercebidas, eles são humanos”, disse Calvin Lee, que trabalha como diretor sênior de gerenciamento de produtos na Ramp.

Uma pesquisa realizada pela SAP em julho revelou que quase 70% dos diretores financeiros acreditavam que seus funcionários estavam usando IA para tentar falsificar despesas de viagem ou recibos. Cerca de 10% disseram ter certeza de que isso já havia acontecido em suas empresas.

Mason Wilder, que trabalha como diretor de pesquisa na Association of Certified Fraud Examiners, chamou os recibos falsos gerados por IA de um “problema significativo para as organizações”.

Ele disse: "Não há nenhuma barreira de entrada para as pessoas fazerem isso. Você não precisa de nenhum tipo de habilidade ou aptidão tecnológica, como talvez precisaria há cinco anos usando o Photoshop."

Não leia apenas notícias sobre criptomoedas. Entenda-as. Assine nossa newsletter. É grátis .