Silicon Valley passa a estar sujeito à lei da Califórnia contra os perigos da IA

O Estado norte-americano da Califórnia, lar de gigantes tecnológicos como a Google, Meta, OpenAI (ChatGPT) e a Anthropic, aprovou na segunda-feira uma importante lei que regula a inteligência artificial (IA) em Silicon Valley.

A nova lei foi aprovada um ano após a rejeição de um projeto de lei considerado demasiado desfavorável à inovação.

O governador, o democrata Gavin Newsom, anunciou a sanção da SB 53, argumentando que esta tinha alcançado um equilíbrio "que ajuda o Estado da Califórnia a promover a inovação e, ao mesmo tempo, a proteger a segurança pública".

O projeto de lei surge numa altura em que dezenas de milhares de milhões de dólares em investimentos em IA estão a fluir para Silicon Valley, mas crescem as preocupações com os potenciais abusos dos modelos mais avançados.

A lei impõe requisitos de transparência praticamente sem precedentes às empresas que desenvolvem os modelos de IA mais complexos, exigindo que divulguem publicamente os seus protocolos de segurança, comuniquem incidentes graves no prazo de 15 dias e protejam os denunciantes.

O projeto de lei, descrito pelos seus proponentes como sem precedentes em todo o mundo, exige que as empresas comuniquem comportamentos enganosos e perigosos da IA durante os testes.

Por exemplo, se um modelo mente sobre a eficácia dos controlos concebidos para o impedir de ajudar a construir armas biológicas ou nucleares, os promotores devem divulgar o incidente se este aumentar significativamente o risco de danos.

"Os próprios relatórios das principais empresas de IA revelam um progresso preocupante em todas as categorias de ameaças", observou o 'think tank' criado pelo governador para refinar o projeto de lei em junho, liderado por especialistas de renome, incluindo Fei-Fei Li, da Universidade de Stanford, apelidada de "madrinha da IA".

O senador democrata que apresentou o projeto de lei, Scott Wiener, viu o seu projeto anterior ser rejeitado à última hora por um veto do governador no ano passado.

O seu texto inicial dividiu profundamente Silicon Valley, alguns dos quais os líderes acusaram-no de arriscar afugentar os inovadores logo no início da "revolução da IA".

A nova lei da Califórnia também irá entrar em vigor após o fracasso da administração Trump em bloquear qualquer regulamentação da IA pelos estados norte-americanos, argumentando que isso abrandaria o país na sua competição com a China.

Para o senador Wiener, a sua lei tem também o mérito de tornar públicos os protocolos de segurança, enquanto o texto de referência da União Europeia (UE), embora mais restritivo, limita a sua divulgação às autoridades.

Antes da promulgação do projeto de lei, várias gigantes da IA sediadas na Califórnia, incluindo a Meta, a Google, a OpenAI e a Anthropic (a criadora do modelo Claude), assumiram compromissos voluntários para realizar testes de segurança e construir protocolos robustos. A nova lei codifica e expande estes compromissos.