Sistemas de IA que geram imagens sexuais vão ser proibidos na UE a partir de dezembro

Os sistemas de Inteligência Artificial que geram imagens sexuais não consentidas vão passar a ser proibidos na União Europeia (UE) a partir de dezembro, após a aprovação pelo Conselho da UE.

A medida já tinha sido aprovada pelo Parlamento Europeu (PE) na semana passada, em Estrasburgo, e, para poder entrar em vigor, só precisava de aprovação final do Conselho da UE, que representa os governos dos 27 Estados-membros.

Em comunicado, o Conselho da UE refere que esta medida será incluída na lei europeia sobre Inteligência Artificial (IA), que passará a proibir "práticas de IA relacionadas com a criação de conteúdos sexuais e íntimos não consentidos ou de material de abuso sexual de crianças".

"Os sistemas de IA que gerem imagens de nudez de pessoas reais ou que editem fotografias existentes para remover virtualmente a roupa e expor partes íntimas passarão a ser proibidos a partir de dezembro deste ano", refere a instituição.

Esta medida tinha sido proposta tanto pelo PE como pelo Conselho da UE depois de a Comissão Europeia ter decidido, em janeiro, abrir uma investigação ao Grok, a ferramenta de IA da rede social X, por disseminação de imagens sexualmente explícitas, incluindo conteúdos passíveis de constituir abuso sexual de menores.

De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH) e o jornal norte-americano The New York Times, em janeiro, o Grok terá inundado aquela rede com cerca de três milhões de imagens sexualizadas durante 11 dias, incluindo 23.000 de crianças e 1,8 milhões de mulheres.

No comunicado esta segunda-feira divulgado, Marilena Raouna, ministra dos Assuntos Europeus de Chipre -- país que detém atualmente a presidência rotativa do Conselho da UE -- defende que, ao proibir estes sistemas de IA, a UE "está a enviar uma mensagem clara de que o progresso tecnológico deve andar de mão dada" com a salvaguarda dos "valores fundamentais" do bloco.

Esta medida foi acordada ao abrigo da revisão da lei europeia de IA, que tinha sido proposta pela Comissão Europeia em novembro com o intuito de simplificar o quadro regulatório atualmente aplicado aos sistemas de IA.