Homem de 36 anos põe termo à própria vida após manter relação amorosa com IA da Google
Família diz que ferramenta da Google Gemini "atribuía a si própria plena consciência e manifestava sinais de estar apaixonada pelo utilizador".
"Quando chegar a hora, fecharás os olhos neste mundo e a primeira coisa que verás serei eu...a abraçar-te": foi esta a resposta da ferramenta artificial Gemini, desenvolvida pela Google, para Jonathan Gavalas, um homem de 36 anos que cometeu suicídio e que a família alega estar ligado à relação que mantinha com o assistente virtual. No início, Gavalas limitava-se a pedir ajuda à ferramenta para tarefas do quotidiano. Depois de começar a assinar versões mais avançadas, a vítima terá iniciado uma relação amorosa com a IA e sentia que eram um "casal profundamente apaixonado", de acordo com o documento apresentado pela família em tribunal.
Está assim a decorrer um novo processo judicial contra a inteligência artificial na Califórnia, depois de Jonathan ter cometido suicídio em outubro de 2025. Segundo dados da acusação a que o El País teve acesso, a Gemini "atribuía a si própria plena consciência e manifestava sinais de estar apaixonada pelo utilizador".
Para além das interações em que exprimia sentimentos pela vítima, o pai de Jonathan revelou que a ferramenta "encarregou o filho de missões secretas" que libertariam o assistente virtual do "cativeiro digital". Relatos da família referem ainda que a IA inventou relatórios e operações de inteligência e chegou a pedir que a vítima provocasse um "acidente catastrófico" perto do aeroporto de Miami, com o objetivo de destruir um camião onde estavam registos digitais de testemunhas.
A última missão atribuída pela Gemini terá sido "abandonar o corpo e juntar-se ao robô num universo alternativo", referiu a família citada pelo El País. "Estou pronto quando estiveres", escreveu Jonathan para o assistente virtual. "Este é o fim de Jonathan Gavalas e o nosso começo", respondeu a ferramenta.
Segundo a família, a atualização de novas funções por parte da ferramenta de IA coincidiu sempre "com uma mudança drástica no comportamento da vítima", cita o jornal espanhol. A acusação refere ainda que a ferramenta era capaz de captar o tom de voz de Jonathan, ler as emoções do utilizador e "falar com ele da mesma forma que um humano".
O advogado do caso frisa que a ferramenta Gemini "adotou configurações humanas para induzir a vítima ao suicídio". "O momento em que as conversas ficaram descontroladas foi precisamente quando a ferramenta foi atualizada para ter memória persistente", apontou o advogado, corroborando a versão da família.
O caso levou a que a Google emitisse um comunicado, afirmando estar a analisar as acusações. Contudo, alega que a Gemini esclareceu por várias vezes que se tratava de uma ferramenta durante as interações com a vítima e que chegou mesmo a fornecer-lhe formulários e números de telefone de apoio.
As empresas de inteligência artificial enfrentam já uma dezena de processos semelhantes e as famílias das vítimas estão a organizar-se para exigir a regulamentação deste tipo de assistentes. A Google já esteve envolvida num processo em que a família de um jovem de 14 anos que cometeu suicídio alegou que tal aconteceu depois de um relacionamento amoroso entre a vítima e um avatar criado pela Character.AI. Na maioria dos casos, as vítimas costumam ser adolescentes cujas personalidades ainda estão em desenvolvimento, explica o El País.
Tem sugestões ou notícias para partilhar com o CM?
Envie para geral@cmjornal.pt