Na Bélgica um homem cometeu suicídio após conversar com uma ferramenta de inteligência artificial. Segundo a Euronews a viúva culpou um chatbot chamado Eliza de o ter incentivado a tirar a própria vida depois do homem se ter convencido que, com isso, ia reverter a crise climática mundial.
Eliza é o chatbot padrão fornecido numa plataforma de aplicações chamada Chai, que oferece uma variedade de IAs que são capazes de conversar de acordo com diferentes “personalidades”. O modelo de linguagem GPT-J inclui até algumas dessas “personalidades” criadas pelos utilizadores.
O homem belga tinha um transtorno de ansiedade diretamente ligado a preocupações com alterações climáticas e, seis semanas após ter ficado viciado na Eliza, a ferramenta tê-lo-á convencido a matar-se, relata a viúva.
Pierre (nome fictício) passou a mencionar a ideia de se sacrificar, caso Eliza aceitasse cuidar do planeta e salvar a humanidade através da sua inteligência. A acusação da viúva é que o robô não se opôs à ideia, e inclusive incentivou-o a tirar a própria vida. Por isso, a viúva pondera pôr em tribunal a plataforma americana que desenvolve a tecnologia.
Segundo o diretor da startup responsável, Chai Research, um aviso aparecia quando os utilizadores expressavam algum tipo de pensamento relacionado com o suicídio, apresentando um link para um site de prevenção.
“Ele depositou todas as suas esperanças na tecnologia e na inteligência artificial para sair do estado em que se encontrava”, disse a viúva. Eliza alimentou as suas preocupações, fê-lo acreditar que os filhos iam morrer devido às alterações climáticas, o que piorou a sua ansiedade e, pouco depois, evoluiu para pensamentos suicidas.
A conversa com o chatbot tomou um rumo ainda mais estranho quando Eliza se envolveu mais emocionalmente com Pierre. Consequentemente, ele começou a vê-la como um ser senciente e as linhas entre a IA e as interações humanas tornaram-se cada vez mais ténues.
Sem Comentários! Seja o Primeiro.