LONDRES (AP) — O chatbot de IA de Elon Musk, Grok, está enfrentando uma reação dos governos de todo o mundo após um recente aumento nas imagens sexualizadas de mulheres e crianças geradas sem consentimento pela ferramenta movida a inteligência artificial.

Na terça-feira, o principal funcionário de tecnologia da Grã-Bretanha exigiu que A plataforma de mídia social de Musk X tome medidas urgentes, enquanto um legislador polonês citou isso como um motivo para promulgar leis de segurança digital.

O braço executivo da União Europeia denunciou Grok, enquanto autoridades e reguladores na França, Índia, Malásia e Brasil condenaram a plataforma e pediram investigações.

alarme crescente de nações díspares aponta para o potencial de pesadelo de aplicativos nudificação que usam inteligência artificial para gerar imagens deepfake sexualmente explícitas.

Aqui vai um olhar mais atento:

Geração imagem

O problema surgiu após o lançamento, no ano passado, do Grok Imagine, um gerador de imagens de IA que permite aos usuários criar vídeos e imagens digitando prompts de texto. Inclui o chamado “spicy mode” que pode gerar conteúdo adulto.

Isso virou uma bola de neve no final do mês passado, quando Grok, que está hospedado no X, aparentemente começou a conceder um grande número de solicitações de usuários para modificar imagens postadas por outras pessoas. A partir de terça-feira, os usuários de Grok ainda poderiam gerar imagens de mulheres usando pedidos como, “a colocou em um biquíni transparente.”

O problema é amplificado tanto porque Musk lança seu chatbot como uma alternativa mais ousada aos rivais com mais salvaguardas, quanto porque as imagens de Grok são publicamente visíveis e, portanto, podem ser facilmente espalhadas.

O grupo sem fins lucrativos AI Forensics disse em um relatório que analisou 20.000 imagens geradas por Grok entre 25 de dezembro e 1o de janeiro e descobriu que 2% representavam uma pessoa que parecia ter 18 anos ou menos, incluindo 30 de mulheres ou meninas jovens ou muito jovens, em biquínis ou roupas transparentes.

Resposta almíscar

A empresa de inteligência artificial de Musk, xAI, respondeu a um pedido de comentário com a resposta automatizada, “Legacy Media Lies”.

No entanto, X não negou que o conteúdo problemático gerado através de Grok exista. Ainda assim, ainda afirmava em um postação em sua conta de segurança, que toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil, “removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e aplicação da lei, conforme necessário."

A plataforma também repetiu um comentário de Musk, que disse: “Quem usa Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se fizesse upload de conteúdo ilegal.”

Uma lista crescente de países está exigindo que Musk faça mais para controlar conteúdo explícito ou abusivo.

Bretanha

X precisa “urgentemente” lidar com o problema, disse a secretária de tecnologia Liz Kendall na terça-feira, acrescentando que apoiou o escrutínio adicional do órgão regulador de comunicações do Reino Unido’s, a Ofcom.

Kendall disse que o conteúdo é “absolutamente terrível, e inaceitável na sociedade decente."

“Não podemos e não vamos permitir a proliferação dessas imagens aviltantes e degradantes, que são desproporcionalmente voltadas para mulheres e meninas."

A Ofcom disse na segunda-feira que fez “contato” urgente com o X.

“Estamos cientes das sérias preocupações levantadas sobre um recurso no Grok no X que produz imagens despidas de pessoas e imagens sexualizadas de crianças,”, disse o cão de guarda.

O órgão de fiscalização disse que entrou em contato com o X e o xAI para entender quais medidas tomou para cumprir as regulamentações britânicas.

De acordo com a Lei de Segurança Online do Reino Unido.’s, as plataformas de mídia social devem prevenir e remover o material de abuso sexual infantil quando tomarem conhecimento dele.

Polónia

Um legislador polonês usou o Grok na terça-feira como motivo para a legislação nacional de segurança digital que reforçaria as proteções para menores e facilitaria a remoção de conteúdo pelas autoridades.

Em um vídeo on-line, Wlodzimierz Czarzasty, presidente do parlamento, disse que queria se tornar alvo de Grok para destacar o problema, bem como apelar ao presidente da Polônia por apoio à legislação.

“Grok ultimamente está despojando as pessoas. É despir mulheres, homens e crianças. Nos sentimos mal por isso. Eu, honestamente, quase gostaria que esse Grok também me despisse,”, disse ele.

União Europeia

O braço executivo do bloco está “bem ciente” de que Grok está sendo usado para conteúdo sexual explícito de “com alguma produção gerada com imagens semelhantes a crianças,”, disse o porta-voz da Comissão Europeia, Thomas Regnier

“Isso não é picante. Isso é ilegal. Isso é estarrecedor. Isso é nojento. É assim que vemos, e isso não tem lugar na Europa. Esta não é a primeira vez que Grok está gerando tal produção", disse ele aos repórteres na segunda-feira.

Depois que Grok espalhou conteúdo de negação do Holocausto no ano passado, de acordo com Regnier, a Comissão buscou mais informações na plataforma de mídia social X, de Musk. A resposta de X está sendo analisada atualmente, disse ele.

França

O gabinete do promotor de Paris disse que está ampliando uma investigação em andamento sobre o X para incluir deepfakes sexualmente explícitos depois que as autoridades receberam reclamações dos legisladores.

Três ministros do governo alertaram os promotores para o conteúdo manifestamente ilegal "gerado por Grok e publicado no X, de acordo com um comunicado do governo na semana passada".

O governo também sinalizou problemas com o órgão regulador de comunicações do país sobre possíveis violações da Lei de Serviços Digitais da UE.

“A internet não é nem uma zona sem lei nem uma zona de impunidade: crimes sexuais cometidos online constituem crimes por direito próprio e se enquadram totalmente sob a lei, assim como aqueles cometidos offline,”, disse o governo.

Índia

O governo indiano na sexta-feira emitiu um ultimato ao X, exigindo que ele retire todo o conteúdo ilegal do “" e tome medidas contra usuários infratores. O Ministério de Eletrônica e Tecnologia da Informação do país também ordenou que a empresa revise a "estrutura técnica e de governança" de Grok e apresente um relatório sobre as ações tomadas.

O ministério acusou Grok de “uso indevido grosseiro” de IA e falhas graves de suas salvaguardas e aplicação, permitindo a geração e compartilhamento de ”imagens ou vídeos obscenos de mulheres de maneira depreciativa ou vulgar, a fim de denigri-las indecentemente."

O ministério alertou que o não cumprimento até o prazo de 72 horas exporia a empresa a problemas legais maiores, mas o prazo terminou sem atualização pública da Índia.

Malásia

O órgão de fiscalização de comunicações da Malásia disse sábado estava investigando os usuários do X que violavam as leis que proibiam a disseminação de conteúdo grosseiramente ofensivo, obsceno ou indecente.“

A Comissão de Comunicações e Multimídia da Malásia disse que também está investigando os danos online no X e convocaria um representante da empresa.

O órgão de fiscalização disse que tomou nota de reclamações públicas sobre as ferramentas de IA do X sendo usadas para manipular digitalmente imagens “de mulheres e menores para produzir conteúdo indecente, grosseiramente ofensivo ou de outra forma prejudicial.”

O Brasil

A legisladora Erika Hilton disse que denunciou Grok e X ao Ministério Público federal brasileiro e ao órgão de fiscalização de proteção de dados do país.

Em uma postagem na rede social, ela acusado ambos de gerar, publicando então imagens sexualizadas de mulheres e crianças sem consentimento.

Ela disse que as funções de IA do X deveriam ser desativadas até que uma investigação tenha sido realizada.

Hilton, um dos primeiros legisladores transgêneros do Brasil, criticou a forma como os usuários poderiam fazer com que Grok alterasse digitalmente qualquer foto publicada, incluindo “trocando as roupas de mulheres e meninas por biquínis ou tornando-as sugestivas e eróticas.”

“O direito à imagem é individual; não pode ser transferido através dos ‘termos de uso’ de uma rede social, e a distribuição em massa de pornografia infantil (asterisk)gr (asterisk)phy por uma inteligência artificial integrada a uma rede social atravessa todos os limites, ", disse ela.