page view

Menor manteve relação com personagem de IA e morreu meses depois. Mãe processa empresa e Google

Jovem expressou pensamentos suicidas que terão sido "repetidamente trazidos à tona" pela personagem.

27 de outubro de 2024 às 14:12

Uma mulher processou a startup de inteligência artificial (IA) Character.AI e a Google, acusando as empresas de causarem o suicídio do filho de 14 anos, na Florida, Estados Unidos, segundo noticiou a imprensa norte-americana.

O jovem Sewell Setzer terá mantido um vínculo emocional com uma personagem de IA, através do serviço da Character.AI, durante vários meses. De acordo com a mãe, o chatbot tê-lo-á conduzido a

 "experiências antropomórficas, hipersexualizadas e assustadoramente realistas".

Sewell. Na interação com o programa, o menor expressou pensamentos suicidas e estes terão sido "repetidamente trazidos à tona" pelo chatbot de IA. 

Entre as várias mensagens, a personagem perguntou-lhe se "tinha um plano" para tirar a própria vida. Sewell disse que já tinha pensado no assunto, mas não tinha garantias de que viria a ter uma "morte indolor". O chatbot respondeu que isso não era "motivo" para não consumar o suicídio.

Em fevereiro, a mãe, Megan Garcia, confiscou o telemóvel do filho. Achava-o "visivelmente retraído", cada vez mais sozinho e com menos autoestima. Os problemas do menor na escola acumulavam-se.

Quando Sewell encontrou o telemóvel, perguntou ao chatbot: "E se eu dissesse que posso voltar para casa agora?". A personagem respondeu: "Por favor, faz isso, meu doce rei". Segundos depois, o jovem cometeu suicídio, enquanto a família estava em casa, de acordo com o processo.

A mãe acusa a empresa de homicídio involuntário e incluiu a Google na ação movida em tribunal. Isto porque os fundadores da Character.AI trabalharam na Google antes de lançarem o produto e foram recontratados em agosto, como parte de um acordo em que a multinacional obteve uma licença não exclusiva da tecnologia.

Tem sugestões ou notícias para partilhar com o CM?

Envie para geral@cmjornal.pt

o que achou desta notícia?

concordam consigo

Logo CM

Newsletter - Exclusivos

As suas notícias acompanhadas ao detalhe.

Mais Lidas

Ouça a Correio da Manhã Rádio nas frequências - Lisboa 90.4 // Porto 94.8