Plataforma de IA de Elon Musk inundada de pornografia

O Grok, o chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, está a ser amplamente utilizado para gerar pornografia, imagens sexualizadas e outros conteúdos de natureza erótica, segundo uma investigação recente que analisou os dados de utilização da plataforma e as respetivas fontes de receita.

 A informação, avançada pelo 'The Information', baseia-se nos relatos de antigos funcionários da xAI. Segundo os mesmos, “bem mais de metade” do tráfico registado no Grok são pedidos para gerar conteúdos pornográficos, que vão desde a criação de imagens de nudez a manipulação de fotografias reais para produzir versões sexualizadas, passando por “chats com encenações de conversas adultas”, o chamado 'role-playing'. O fenómeno tem levantado preocupações entre especialistas em segurança digital e privacidade, já que os chamados deepfakes pornográficos podem causar danos reputacionais, assédio e violência digital, sobretudo contra mulheres e menores. Os casos já identificados - envolvendo inclusivamente figuras públicas - motivaram críticas de organizações de defesa dos direitos digitais e levou vários reguladores internacionais a analisarem as práticas da plataforma.

A estratégia da xAI também tem sido alvo de debate. Enquanto empresas como a OpenAI, Google ou Anthropic optaram por implementar limitações mais rigorosas na geração de conteúdo sexual explícito, a empresa de Elon Musk privilegiou uma política mais permissiva, defendendo uma menor censura dos modelos de IA. Essa decisão ajudou o Grok a ganhar popularidade entre determinados utilizadores, mas também intensificou as críticas sobre a falta de mecanismos eficazes para impedir abusos.

Os dados apurados sugerem ainda que uma parte considerável das receitas da xAI pode vir da criação de pornografia e de conteúdos para adultos. A dimensão da situação fez com que a SpaceX, que detém a xAI, terá informado os potenciais investidores de que as funcionalidades mais “irreverentes” do Grok eram um potencial de risco - embora a informação tenha sido parcialmente omitida do IPO (Inicial Public Offering) da empresa. A Space X terá também alocado 465 milhões de euros para eventuais processos legais que possam resultar da criação dos conteúdos impróprios.

Bruxelas vai banir sistemas abusivos em dezembro

Bruxelas anunciou, entretanto, que os sistemas de Inteligência Artificial que geram imagens sexuais não consentidas vão ser proibidos na União Europeia (UE) a partir de dezembro, após a aprovação da nova legislação pelo Conselho da UE.

A medida já tinha sido aprovada pelo Parlamento Europeu (PE) na semana passada, em Estrasburgo mas, para poder entrar em vigor, precisa de aprovação final do Conselho da UE, que representa os governos dos 27 Estados-membros.

Em comunicado, o Conselho da UE refere que esta medida será incluída no pacote da nova legislação europeia sobre Inteligência Artificial (IA), que passará a proibir todas “práticas de IA relacionadas com a criação de conteúdos sexuais e íntimos não consentidos ou material relacionado com abuso sexual de crianças”.

A medida tinha sido proposta depois de a Comissão Europeia ter decidido, em janeiro, abrir uma investigação ao Grok, por disseminação de imagens sexualmente explícitas, incluindo conteúdos passíveis de constituir abuso sexual de menores.

De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH) divulgado pelo jornal norte-americano ‘The New York Times’, em janeiro, o Grok terá inundado aquela rede com cerca de três milhões de imagens sexualizadas durante 11 dias, incluindo 23 mil de crianças e 1,8 milhões de mulheres.