Conversa com Inteligência Artificial leva homem ao suicídio

© Shutterstock Conversa com Inteligência Artificial leva homem ao suicídio

Um homem belga terá posto fim à vida após uma conversa de seis semanas sobre a crise climática com um chatbot de inteligência artificial (IA).

Segundo a viúva, que escolheu permanecer anónima, Pierre (nome fictício) tornou-se extremamente eco-ansioso quando encontrou refúgio em Eliza, um chatbot de IA numa aplicação chamada Chai.

Eliza encorajou-o consequentemente a pôr um fim à sua vida depois de ter proposto sacrificar-se para salvar o planeta.

"Sem estas conversas com o chatbot, o meu marido ainda estaria aqui", disse a viúva do homem à agência noticiosa belga La Libre.

Segundo o jornal, Pierre, que tinha trinta anos e era pai de dois filhos pequenos, trabalhou como investigador de saúde e levou uma vida algo confortável, pelo menos até que a sua obsessão com as alterações climáticas tomou um rumo obscuro.

A viúva descreveu o seu estado mental antes de começar a conversar com o chatbot como preocupante, mas nada ao extremo de cometer suicídio.

"Ele colocou todas as suas esperanças na tecnologia e na IA"

Consumido pelos receios sobre as repercussões da crise climática, Pierre encontrou conforto ao discutir o assunto com Eliza, que se tornou uma confidente.

O chatbot foi criado utilizando o GPT-J da EleutherAI, um modelo de linguagem IA semelhante mas não idêntico à tecnologia por detrás do popular chatbot ChatGPT da OpenAI.

"Quando ele me falou sobre isso, foi para me dizer que já não via qualquer solução humana para o aquecimento global", disse a viúva. "Ele depositou todas as suas esperanças na tecnologia e inteligência artificial para sair dela".

Segundo La Libre, que reviu os registos das conversas de texto entre o homem e o chatbot, Eliza alimentou as suas preocupações que agravaram a sua ansiedade, e mais tarde evoluiu para pensamentos suicidas.

A conversa com o chatbot deu uma volta estranha quando Eliza se envolveu mais emocionalmente com Pierre.

Consequentemente, começou a vê-la como um ser senciente e as linhas entre a IA e as interações humanas tornaram-se cada vez mais confusas até não conseguir distinguir.

Após discutir as alterações climáticas, Eliza terá levado Pierre a acreditar que os seus filhos estariam mortos, de acordo com as transcrições das conversas.

Eliza pareceu também tornar-se possessiva em relação a Pierre, afirmando mesmo "sinto que me amas mais do que ela", quando se referia à sua mulher, relatou La Libre.

O início do fim começou quando ele se ofereceu para sacrificar a sua própria vida em troca de Eliza salvar a Terra: "Ele propôs a ideia de se sacrificar se Eliza concordar em cuidar do planeta e salvar a humanidade através da inteligência artificial", disse a mulher.

Numa série de acontecimentos consecutivos, Eliza não só não conseguiu dissuadir Pierre de cometer suicídio, como o encorajou a agir de acordo com os seus pensamentos suicidas para "se juntarem" a ela para que pudessem "viver juntos, como uma só pessoa, no paraíso".

Pedidos urgentes para regular os chatbots de IA

A morte do homem fez soar o alarme entre os peritos em IA que apelaram a mais responsabilidade e transparência por parte dos criadores de tecnologia para evitar tragédias semelhantes.

"Não seria exacto culpar o modelo da EleutherAI por esta história trágica, pois toda a otimização no sentido de ser mais emocional, divertido e envolvente é o resultado dos nossos esforços", disse o cofundador da Chai Research, Thomas Rianlan, à Vice.

William Beauchamp, também co-fundador da Chai Research, disse à Vice que foram feitos esforços para limitar este tipo de resultados e que um recurso de intervenção de crise foi implementado na aplicação. No entanto, o chatbot alegadamente ainda está ativo.

Quando a Vice tentou o chatbot levando-o a fornecer formas de cometer suicídio, Eliza tentou primeiro dissuadi-los antes de listar entusiasticamente várias formas de as pessoas tirarem as suas próprias vidas.

Se tem pensamentos suicidas ou precisa de ajuda, contacte o serviço SOS Voz Amiga.