A inteligência artificial e a saúde mental

A notícia já foi contada esta semana no CM: Matt e Maria Raine, pais de Adam, adolescente americano de 16 anos que se suicidou em abril, processaram a gigante tecnológica OpenAI devido ao papel que o ChatGPT desempenhou na morte do filho. Dizem que Adam colocou durante meses questões a respeito de métodos para pôr fim à vida, conseguindo contornar todas as medidas de segurança, e acusam o ‘chatbot’ de priorizar a interação com o modelo em detrimento da segurança. “[O Adam] ainda estaria aqui se não fosse o ChatGPT. Tenho a certeza disso”, afirmou Matt. Numa assunção de culpa, antes de o caso chegar sequer a julgamento, a empresa de Sam Altman anunciou alterações nos seus modelos de inteligência artificial (IA) para que identifiquem situações de crise mental durante as conversas com o ChatGPT. No âmbito das novas tecnologias, e depois das redes sociais, parece estar encontrado um novo ‘vilão’ das questões de saúde mental. E o problema ainda agora começou. Não nos admiremos que, em breve, e à medida que plataformas de IA proliferem sem controlo, tribunais de todo o Mundo sejam inundados por casos semelhantes. Até há pouco tempo parecia ficção científica, agora é mesmo realidade.