Eurodeputados propõem banir sistemas de IA que produzem imagens sexuais

Uma comissão de eurodeputados propôs esta quarta-feira banir sistemas de Inteligência Artificial que criam imagens sexualmente explícitas não consentidas, tal com uma outra proposta dos Estados-membros da UE na semana passada.

Na proposta, aprovada na Comissão do Mercado Interno e da Proteção dos Consumidores do Parlamento Europeu (PE), os eurodeputados sugeriram "introduzir uma proibição aos chamados sistemas de 'nudificação', que recorrem a Inteligência Artificial (IA) para criar ou manipular imagens sexualmente explícitas ou íntimas que se assemelham a uma pessoa real identificável, sem o consentimento dessa pessoa".

"A proibição não se aplicaria a sistemas de IA que possuam medidas de segurança eficazes que impeçam os utilizadores de criar tais imagens", sublinharam os eurodeputados.

A proposta, que visa alterar o texto inicial da Comissão Europeia para simplificar o quadro regulatório da IA, vai ser agora submetida ao voto de todos os eurodeputados, previsivelmente em 26 de março.

Caso seja aprovada, terá de ser negociada com o Conselho da UE, que, na semana passada, avançou com uma proposta parecida: "proibir práticas de IA relacionadas com a geração de conteúdos sexuais e íntimos não consensuais ou de material relacionado com abuso sexual infantil".

Estas propostas, tanto do PE como do Conselho da UE, surgiram depois de, em janeiro, a Comissão Europeia ter decidido abrir uma investigação ao Grok, a ferramenta de IA da rede social X, por disseminação de imagens manipuladas sexualmente explícitas, incluindo conteúdos passíveis de constituir abuso sexual de menores.

De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH) e o jornal norte-americano The New York Times, em janeiro, o Grok terá inundado aquela rede com cerca de três milhões de imagens sexualizadas durante 11 dias, incluindo 23.000 de crianças e 1,8 milhões de mulheres.

A 02 de janeiro, a própria empresa reconheceu ter identificado falhas nas salvaguardas do Grok, após o aparecimento de várias publicações no X em que o 'chatbot' acedia ao pedido de alguns utilizadores para despir mulheres e crianças, modificando as imagens para que aparecessem em posições sexuais, por exemplo.

Essas imagens modificadas com IA podiam ser geradas através do 'chatbot' ou como resposta a publicações de outros utilizadores sem o consentimento das vítimas, apesar de serem práticas ilegais proibidas nas próprias políticas da xAI, a empresa responsável pelo Grok.

Depois de receber várias reclamações de utilizadores e autoridades da UE, Reino Unido e Espanha, a empresa limitou o criador de imagens Grok em 09 de janeiro, permitindo o uso apenas para assinantes.

Em 14 de janeiro, a geração de imagens sexualizadas através do Grok foi bloqueada para todos os utilizadores.