Publicou foto de calças no Instagram e acabou despida nas redes sociais após manipulação por IA

Uma mulher tornou-se mais uma vítima da criação e divulgação de imagens íntimas falsas através do Grok, a inteligência artificial integrada na rede social X, propriedade de Elon Musk. A ferramenta pode ser utilizada para adulterar fotografias, inclusive para retirar peças de roupa.

“Fiquei em choque quando vi. É um sentimento horrível. Senti-me suja”, relatou Giovanna (nome fictício), depois de ter sido informada de que uma fotografia sua, originalmente publicada num story do Instagram, tinha sido alterada para a mostrar de biquíni. Na imagem original, a jovem usava calças.

A fotografia foi recolhida por uma conta anónima no X e submetida ao Grok com o pedido explícito de gerar uma versão mais sexualizada, de acordo com o G1.

"Na foto original, do meu story, eu estava de calças", relatou a mulher residente no Brasil. 

Este tipo de manipulação é conhecido coma ‘deepfake’, uma técnica que utiliza inteligência artificial para alterar imagens reais, criando conteúdos falsos mas visualmente credíveis. Embora não seja um fenómeno novo, a prática ganhou grande visibilidade no último mês, transformando-se numa tendência no X, tanto no Brasil como noutros países.

O caso ganhou especial destaque no Brasil após a denúncia da jornalista Julie Yukari, que recorreu à polícia depois de várias versões adulteradas de uma fotografia sua terem sido publicadas online, fazendo-a parecer nua ou com trajes sexuais.

A criação e a partilha de imagens íntimas falsas sem autorização constituem crime, tanto em Portugal como no Brasil, sendo passíveis de punição não apenas os autores, mas também quem reproduz o conteúdo.

A situação levou vários países, incluindo França e Reino Unido, a manifestarem a intenção de investigar a empresa de Elon Musk. A Comissão Europeia já classificou como “ilegal e revoltante” a disponibilização de modos que permitem a geração de conteúdo sexual explícito, incluindo imagens com aparência infantil.

Perante as críticas, a plataforma Grok afirmou que iria corrigir, com urgência, falhas nos seus mecanismos de proteção. No entanto, vítimas como Giovanna defendem que as medidas chegam tarde e sublinham a necessidade de maior responsabilização das plataformas digitais na prevenção deste tipo de abuso.