O crescimento de deepfakes e peças desinformativas é um sintoma da expansão do uso de IA generativa no ambiente online. Na contramão desse problema, pesquisadores da Universidade Estadual de Campinas desenvolveram uma ferramenta capaz de identificar deepfakes e conteúdos manipulados.

Em março do ano passado, um vídeo com o meio-campista do Fluminense, Paulo Henrique Ganso, 'viralizou'. No conteúdo, o atleta divulgava uma campanha de doações de camisas oficiais do clube. Para obter o prêmio, no vídeo havia um link vinculado que direcionaria o torcedor a uma página — supostamente o site do time. No link, eram solicitados dados pessoais e valores para custear o frete da camisa. O problema é que o vídeo tratava-se de um deepfake, onde a fala do jogador foi completamente alterada. Ou seja, era um golpe.

Segundo um estudo inédito publicado pelo Observatório Lupa, casos de deepfake e peças desinformativas geradas por IA cresceram entre 2024 e 2025. Enquanto no primeiro ano citado 39 conteúdos deste tipo foram alvo de checagens da agência (equivalente a 4,6% do total de checagens naquele ano), em 2025 o número saltou para 159 (o que representou 20,4% das checagens). Neste intervalo, o aumento foi de aproximadamente 308% no número absoluto de casos.

O levantamento também mostrou uma mudança na principal tendência nas manipulações feitas por inteligência artificial. Em 2024, 14 dos 39 — a maioria naquele ano — estavam relacionados a golpes financeiros, enquanto 13 eram sobre política. Com o aumento vertiginoso, os temas intensificaram, mas inverteram a ordem. Assuntos relacionados à política passaram a ser os maiores alvos, totalizando 71 dos 159, enquanto 48 diziam respeito a golpes.

A incidência do mau uso das ferramentas de IA intensifica as preocupações do Tribunal Superior Eleitoral (TSE), em ano de eleição. Durante o evento Seta Debate, em maio deste ano, o ministro Nunes Marques, presidente do TSE, alertou que a inteligência artificial mudou a forma como conteúdos são criados, distribuídos e recebidos. Ele criticou as técnicas que realizam mudança de rosto, clonagem de voz e alteração das palavras.

'Uma deepfake lançada na véspera do 2º turno pode atingir milhões de eleitores antes que qualquer decisão judicial seja proferida', ressaltou na oportunidade.

Por outro lado, pesquisadores da Unicamp, em parceria com colegas de Singapura e da China, desenvolveram uma ferramenta de inteligência artificial capaz de identificar deepfakes em ambientes abertos, ou seja, reconhece falhas em geradores mesmo sem ter sido treinada com aqueles elementos.

A premissa para elaborar um programa com essas habilidades, para identificar falsificações, é entender que não se 'conhece a priori todas as formas possíveis que alguém pode falsificar um conteúdo', diz o professor Anderson Rocha, cofundador e coordenador do Laboratório de Inteligência Artificial, Recod.ai, do Instituto de Computação da Unicamp, em entrevista exclusiva à Sputnik Brasil.

O Open-Set DeepFake Detection (OSDFD), em vez de depender apenas de deepfakes ou exemplos já gerados, utiliza imagens reais como referência para que a IA aprenda padrões de normalidade, como a textura de pele, iluminação e sombra, como elementos de um processo analógico, não criado por máquina.

Atualmente, o trabalho alcançou êxito em reconhecimento de 90% em bases de dados desconhecidos.

'Quais são os casos de erro? Pode acontecer que naquele tipo de falsificação que ele olhou, não tinha muito essas inconsistências de iluminação, de sombra, de textura, ou mesmo o ruído não era muito visível, digamos assim', explica.

Segundo Rocha, os 10% que ainda separam o trabalho de máxima eficácia representam um bom desafio que os pesquisadores têm pela frente. Ele espera, inclusive, que em seis meses a um ano este lastro seja reduzido pela metade.

O professor afirma que um dos objetivos do projeto é democratizar o acesso à ferramenta, ou seja, que o programa que atualmente roda em servidores fique mais 'leve' para rodar rapidamente em celulares. 'É um primeiro objetivo', destaca.

De acordo com o especialista, a ferramenta deveria funcionar como um filtro acoplado ao WhatsApp, onde 'o usuário possa clicar e pedir para verificar um determinado conteúdo e ele [o programa] apontar: olha, acho que esse conteúdo aqui é falsificado, fique de olho', exemplifica.

'A gente, nesse momento, está desenvolvendo um filtro inicial, ainda não para deepfake, estamos fazendo um primeiro para golpes, porque temos muitos casos de golpes via WhatsApp, amante falso, pedido de doação, pedido de depósito de dinheiro para membro familiar', contextualiza. Neste, o sistema é semelhante ao citado pelo pesquisador: o programa identifica a suspeita e emite um alerta ao usuário.

Rocha salienta que é necessário que as pessoas disponham de ferramentas de checagem no ambiente online, para mitigar golpes financeiros e desinformações.

'As pessoas têm que saber que esse tipo de tecnologia existe, esse tipo de golpe existe, esse tipo de falsificação existe, de modo que elas prestem mais atenção naquilo que veem, naquilo que ouvem, naquilo que leem. Mas, ao mesmo tempo que é importante a educação midiática e tecnológica, é vital que as pessoas possam ter acesso a ferramentas rápidas de checagem', finaliza.