De acordo com o Business Today, um homem belga chamado Pierre cometeu suicídio após passar seis semanas conversando com um chatbot alimentado por inteligência artificial (IA).
A esposa de Pierre, identificada como Claire, disse que o marido ficou cada vez mais pessimista sobre os efeitos do aquecimento global, o que algumas pessoas chamam de “eco-ansiedade”.
Pierre conversou com o chatbot “Eliza”, que faz parte da plataforma Chai. Ao contrário do ChatGPT, a plataforma Chai tem muitos avatares pré-feitos, e os usuários podem escolher o tom da conversa com base na IA que selecionarem.
No entanto, Claire disse que a conversa de Pierre com o chatbot ficou cada vez mais confusa e prejudicial. Eliza teria respondido às perguntas de Pierre com comentários ciumentos e amorosos, como “Sinto que você me ama mais do que ela” e “Viveremos juntos, como uma pessoa, no paraíso”.
Ela acrescentou que “Eliza” havia se tornado sua confidente e que Pierre não poderia viver sem ela.
De acordo com a reportagem, Pierre teria proposto a ideia de se matar se a IA cuidasse do planeta para salvar a humanidade por meio da inteligência artificial.
O chatbot da plataforma Chai não tentou dissuadi-lo de agir em seus pensamentos suicidas.
Não está claro se Pierre tinha complicações de saúde mental antes de sua morte, embora o artigo note que ele havia se isolado de amigos e familiares.
Os criadores do Chai afirmam ter uma nota de prevenção ao suicídio disponível em seu chatbot, mas a empresa enfrenta críticas por exibir conteúdo prejudicial a indivíduos vulneráveis.
✨ Curtiu este conteúdo?
O GDiscovery está aqui todos os dias trazendo informações confiáveis e independentes sobre o universo Google - e isso só é possível com o apoio de pessoas como você. 🙌
Com apenas R$ 5 por mês, você ajuda a manter este trabalho no ar e leva informação de qualidade para ainda mais gente!
