ONU alerta que Inteligência Artificial mais autónoma terá impacto profundo na economia e apela a novas regras

A Inteligência Artificial (IA) está a evoluir para sistemas cada vez mais autónomos, que poderão ter um impacto profundo na economia, na segurança e nos direitos humanos, alerta o primeiro relatório do Painel Científico Independente da ONU.

O relatório preliminar, divulgado esta quarta-feira, concluiu que a IA está a passar de sistemas centrados na previsão de padrões para modelos capazes de "raciocinar, planear e agir em diferentes contextos", abrindo caminho a "uma nova geração de agentes digitais com autonomia operacional".

Segundo o painel, composto por 40 especialistas esta evolução deverá conduzir ao aparecimento de uma "força de trabalho digital", cujas implicações económicas e sociais continuam difíceis de antecipar.

O documento referiu que estes sistemas deverão coordenar tarefas, interagir com ambientes físicos e virtuais e integrar-se nos processos económicos e produtivos.

No plano económico, o relatório classificou a IA como uma tecnologia de uso geral, com potencial transformador, mas sublinhou que os ganhos de produtividade não estão assegurados.

"O benefício dependerá da sua adoção, da reorganização do trabalho nas empresas e do investimento em competências complementares", referiu o documento, que identificou uma "grande incerteza" sobre os efeitos da IA na produtividade.

As estimativas analisadas variam entre impactos limitados e cenários de transformação profunda da economia, sendo considerada central a questão da distribuição dos benefícios gerados por esta tecnologia.

O painel alertou ainda para a forte concentração do investimento em infraestruturas informáticas nos Estados Unidos e num número reduzido de grandes empresas tecnológicas, situação que poderá reforçar "assimetrias estruturais" no acesso à IA.

Entre os principais riscos identificados está o desfasamento entre o desenvolvimento das capacidades dos modelos e a capacidade de os avaliar e controlar.

Segundo o relatório, os sistemas de avaliação têm cada vez mais dificuldades em acompanhar modelos que evoluem rapidamente e alguns já conseguem otimizar o seu desempenho nos próprios testes, reduzindo a fiabilidade dos mecanismos de verificação e exigindo novos modelos de auditoria e supervisão.

Na área da segurança, o documento alertou para o reforço das capacidades de cibersegurança ofensiva, nomeadamente através da identificação automatizada de vulnerabilidades em sistemas informáticos, que tanto pode ser utilizada para melhorar a defesa como para explorar falhas críticas.

O relatório destacou igualmente os riscos para o ecossistema informativo, devido à proliferação de "deepfakes" e de outros conteúdos gerados por IA, que poderão contribuir para uma erosão da capacidade de distinguir informação verdadeira de informação falsa, sobretudo quando combinados com algoritmos de recomendação e persuasão personalizada.

No plano social, o painel assinalou que a maioria dos modelos continua concentrada no inglês e num número reduzido de línguas, o que poderá levar à exclusão sistemática de milhares de comunidades linguísticas.

O documento alertou também para a crescente utilização da IA na saúde mental, considerando que a adoção destas ferramentas está a avançar mais rapidamente do que a evidência científica disponível, com riscos de dependência emocional, respostas inadequadas em situações críticas e insuficiente supervisão clínica.

O relatório concluiu que a governação global da IA permanece fragmentada e considerou insuficientes os mecanismos atualmente existentes, defendendo a criação de normas internacionais para avaliação, auditoria e supervisão destes sistemas.