Para espalhar a palavra das facilidades da Inteligência Artificial (IA), grupos extremistas têm criado manuais sobre uso da tecnologia. Em fevereiro, uma organização afiliada à al-Qaeda anunciou que faria um “workshop de inteligência artificial”, com foco no “trabalho de mídia” e em outros campos. Dias depois, lançaram um guia em árabe, de 50 páginas, sobre como usar o ChatGPT, da OpenAI.

Em meio a protestos e desinformação: Justiça britânica divulga nome de menor de idade suspeito de matar três crianças

Três anos de prisão: Britânico que socou policial em protesto liderado pela extrema direita é condenado

A tática de usar conteúdo gerado por IA tem sido cada vez mais comum por grupos extremistas que disseminam mensagens de ódio pela internet, desafiam o controle das plataformas e tentam angariar apoiadores com imagens, áudios e vídeos que disseminam discursos violentos. Em um relatório de mais de 200 páginas, um grupo de pesquisadores americanos do Middle East Media Research Institute (Memri) mapeou este ano dezenas de exemplos de como a IA tem virado arma na mão dessas organizações.

Além de difundir esse tipo de material, os extremistas estão ensinando a usar a tecnologia.

Neonazistas têm produzido material “educativo” sobre como aproveitar as ferramentas de inteligência artificial. A Liga de Defesa Goyim (GDL), organização por trás de um vídeo viral em que a atriz Emma Watson aparecia com com um uniforme nazista lendo “Mein Kampf”, de Adolf Hitler, tem tutoriais sobre deepfakes que incluem o uso de ferramentas como o gerador de voz ElevenLabs.

'Cidadãos do Reich': Saiba quem são os neonazistas golpistas que defendem na Alemanha que 3º Reich de Hitler não acabou

Mesmo para conteúdos de deepface notadamente falsos (em que fica perceptível o fato de serem sintéticos) esse tipo de vídeo e imagem cumpre também a função de ajudar a recrutar simpatizantes, incluindo mais jovens, e “popularizar” discursos de ódio e ideologias. A geração de memes com IA tem papel parecido, segundo pesquisadores. Às vezes com cartoons e desenhos animados, esse tipo de propaganda tem a vantagem também de burlar o conteúdo de moderação das redes sociais.

— É claro que as empresas de tecnologia têm políticas contra discurso de ódio e propaganda extremista. Mas quando eles utilizam sátiras ou cartoons, fica muito mais difícil para as empresas captarem. Esses grupos querem estar nas maiores plataformas possíveis, então essa estratégia faz parte disso, criar mensagens que possam repercutir — diz Wendy Via, co-fundadora do Global Project Against Hate and Extremism.

Para Via, as grandes plataformas “não têm feito o suficiente” para barrar a disseminação desse tipo de conteúdo online, especialmente em países de língua não-inglesa.

Ofensiva judicial: Musk processa grupo que coordenou boicote publicitário ao X

No ano passado, o site Media Matters acusou o X, do bilionário Elon Musk, de incluir anúncios em contas que publicavam conteúdo abertamente nazista e antissemita, algumas delas com material produzido por IA. Segundo o Media Matters, a lista de clientes que apareciam em uma dessas contas incluía o jornal New York Times, a equipe de basquete Atlanta Falcons e a gigante do comércio eletrônico Amazon.

"A empresa continua a monetizar a conta abertamente antissemita, apesar de ter supostamente reconhecido que ela violou as 'regras contra discurso violento' da plataforma", apontou uma reportagem do site, publicada em agosto do ano passado.

Em novembro, após ser alvo de acusações semelhantes, Musk entrou com processo contra o site na justiça do Texas, e o procurador-geral do estado, Ken Paxton, chegou a abrir uma investigação formal, derrubada posteriormente por um tribunal de apelações: na decisão, o Tribunal Distrital do Distrito de Columbia(onde fica a capital, Washington) disse que a decisão das autoridades texanas "teve um efeito assustador para os direitos da Primeira Emenda" da Constituição, que lida com a liberdade de expressão.