Estados-membros da UE querem proibir sistemas de IA que geram conteúdos sexuais

Os Estados-membros da União Europeia propuseram esta sexta-feira proibir sistemas de Inteligência Artificial que geram conteúdos sexuais não consensuais ou pedopornográficos, dois meses depois da polémica relativa à criação de imagens dessa natureza pela ferramenta Grok, da rede social X.

Em comunicado, o Conselho da União Europeia (UE), que representa os Governos dos Estados-membros, afirmou ter chegado esta sexta-feira a acordo sobre essa medida, que visa alterar a proposta inicial da Comissão Europeia para simplificar o quadro regulatório da Inteligência Artificial (IA).

"O mandato do Conselho acrescenta uma nova disposição à lei da IA: proibir práticas de Inteligência Artificial relacionadas com a geração de conteúdos sexuais e íntimos não consensuais ou de material relacionado com abuso sexual infantil", referiu o órgão num comunicado.

A proposta esta sexta-feira feita pelo Conselho da UE terá agora de ser negociada com o Parlamento Europeu, que também defende uma medida deste tipo, antes de poder eventualmente entrar em vigor.

Esta proposta surge depois de, em janeiro, a Comissão Europeia ter decidido abrir uma investigação ao Grok, a ferramenta de Inteligência Artificial da rede social X, por disseminação de imagens manipuladas sexualmente explícitas, incluindo conteúdos passíveis de constituir abuso sexual de menores.

De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH) e o jornal norte-americano The New York Times divulgado em janeiro, o Grok terá inundado a rede social X com cerca de três milhões de imagens sexualizadas durante 11 dias, incluindo 23.000 de crianças e 1,8 milhões de mulheres.

A 02 de janeiro, a própria empresa reconheceu ter identificado falhas nas salvaguardas do Grok, após o aparecimento de várias publicações no X em que o 'chatbot' acedia ao pedido de alguns utilizadores para despir mulheres e crianças, modificando as suas imagens para que aparecessem em posições sexuais, por exemplo.

Essas imagens modificadas com IA podiam ser geradas através do 'chatbot' ou como resposta a publicações de outros utilizadores sem o consentimento das vítimas, apesar de serem práticas ilegais proibidas nas próprias políticas da xAI, a empresa responsável pelo Grok.

Após receber várias reclamações de utilizadores e autoridades da União Europeia, Reino Unido e Espanha, a empresa limitou o criador de imagens Grok em 09 de janeiro, permitindo o seu uso apenas para assinantes.

Em 14 de janeiro, a geração de imagens sexualizadas através do Grok foi bloqueada para todos os utilizadores.