LONDRES (AP) — A União Europeia abriu uma investigação formal sobre a plataforma de mídia social X, de Elon Musk, na segunda-feira, depois que seu chatbot de inteligência artificial Grok vomitou imagens deepfake sexualizadas não consensuais na plataforma.

Os órgãos reguladores europeus também ampliaram uma investigação separada e em andamento sobre os sistemas de recomendação do X depois que a plataforma disse que mudaria para o sistema de IA da Grok para escolher quais postagens os usuários verão.

O escrutínio de Bruxelas ocorre depois que Grok provocou uma reação global ao permitir que os usuários, por meio de seus recursos de geração e edição de imagens de IA, se despirem de pessoas, colocando mulheres em biquínis transparentes ou roupas reveladoras. Pesquisadores disseram que algumas imagens pareciam incluir crianças. Alguns governos proibiram o serviço ou emitiram avisos.

O executivo da UE, de 27 países, disse que estava investigando se X fez o suficiente, conforme exigido pelos regulamentos digitais do bloco, para conter os riscos de espalhar conteúdo ilegal, como "imagens sexualmente explícitas manipuladas".

Isso inclui conteúdo que “pode representar material de abuso sexual infantil", disse a Comissão Europeia. Esses riscos agora se materializaram,“, disse a comissão, expondo os cidadãos do bloco a ” danos graves.“

Os reguladores examinarão se a Grok está cumprindo suas obrigações de acordo com a Lei de Serviços Digitais, o amplo livro de regras do bloco para manter os usuários da internet a salvo de conteúdo e produtos nocivos.

Em resposta a um pedido de comentário, uma porta-voz da X direcionou a Associated Press a uma declaração anterior de que a empresa continua “comprometida em tornar a X uma plataforma segura para todos" e que tem “tolerância zero” para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.

A declaração X de 14 de janeiro também dizia que iria parar permitir os usuários devem retratar pessoas com “biquínis, roupas íntimas ou outros trajes reveladores,”, mas apenas em locais onde tenham sido considerados ilegais.

“Profundas sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação,” Henna Virkkunen, vice-presidente executiva da comissão, disse em um comunicado.

“Com esta investigação, vamos determinar se X cumpriu suas obrigações legais sob a DSA, ou se tratou os direitos dos cidadãos europeus —, incluindo os de mulheres e crianças - como dano colateral de seu serviço,” disse Virkkunen, que supervisiona a soberania tecnológica, a segurança e a democracia.

A xAI, empresa de inteligência artificial de Musk, lançou a ferramenta de imagem de Grok no verão passado. Mas o problema começou a virar uma bola de neve apenas no final do mês passado, quando Grok aparentemente concedeu um grande número de pedidos de usuários para modificar imagens postadas por outras pessoas. O problema foi amplificado tanto porque Musk apresenta seu chatbot como uma alternativa mais ousada com menos salvaguardas do que os rivais, quanto porque as respostas de Grok no X são publicamente visíveis e, portanto, podem ser facilmente espalhadas.

A investigação da UE cobre apenas o serviço da Grok no X, e não o site e o aplicativo autônomo da Grok. Isso porque o DSA se aplica apenas às maiores plataformas online.

Não há prazo para o bloco resolver o caso, o que pode acabar em X se comprometer a mudar seu comportamento ou em uma multa pesada.

Em dezembro Bruxelas emitiu X com a 120-milhões euros (então de US$ 140 milhões) multa como parte da investigação anterior em andamento da DSA, por deficiências, incluindo marcas de verificação azuis que quebrou as regras em “práticas de design enganosas” que arriscavam expor os usuários a golpes e manipulação.

O bloco também vem examinando X sobre alegações de que Grok gerou material antissemita e pediu mais informações ao site.

Malásia e Indonésia acesso bloqueado a Grok no início deste mês em resposta à polêmica, tornando-se os primeiros países a.

Na sexta-feira, as autoridades malaias disseram que suspenderam a restrição temporária depois que a empresa implementou medidas adicionais de segurança e prevenção, sem dar mais detalhes. Os órgãos reguladores da Malásia disseram que se reuniram na semana passada com os representantes da X e que continuarão monitorando a situação.