Nos últimos anos, a Inteligência Artificial (IA) tem feito avanços impressionantes, e uma das inovações mais surpreendentes e controversas é a clonagem de voz. Produtos de IA generativa estão a atingir níveis de sofisticação tão elevados que conseguem replicar a voz de uma pessoa com apenas algumas amostras. Um exemplo notável é a ferramenta desenvolvida pela OpenAI, que, apesar de ainda não estar disponível ao público, já levanta preocupações significativas sobre a sua potencial utilização indevida.
Uma das mais recentes inovações nesta área é o TerifAI, um chatbot de voz de baixa latência que consegue clonar a sua voz diretamente a partir do navegador enquanto conversa consigo. Este desenvolvimento é simultaneamente fascinante e assustador. O que torna o TerifAI particularmente inquietante é a rapidez com que consegue clonar a sua voz – bastam apenas alguns minutos de conversa.
Para utilizar o TerifAI, basta conceder permissão ao seu navegador para aceder ao microfone, carregar o chatbot e começar a falar. A resposta do chatbot é quase instantânea, sem qualquer atraso perceptível no processamento dos dados de voz. A interação é tão fluida que parece estar a conversar com um ser humano real. No entanto, o chatbot utiliza uma voz predefinida que não pode ser alterada e cobre uma variedade de tópicos, embora não seja tão abrangente como o ChatGPT.
A Experiência de Utilização
Durante a interação, o TerifAI faz perguntas sobre os seus hobbies e interesses, detetando rapidamente quando deixa de falar para responder de imediato. Pode interromper o chatbot e falar por cima dele, tal como faria numa conversa normal com outra pessoa. Esta capacidade de resposta rápida e natural é um dos pontos fortes do TerifAI.
Apesar das suas capacidades impressionantes, a clonagem de voz pelo TerifAI levanta sérias preocupações. Uma vez que o chatbot clona a sua voz, começa a responder-lhe utilizando a sua própria voz e sotaque. Esta funcionalidade é demonstrada em vídeos como o de Aman Ibrahim, que mostram o potencial perturbador desta tecnologia.
O objetivo do TerifAI é educar e sensibilizar sobre os perigos do “voice phishing” na era da IA generativa. Atualmente, o TerifAI não é um produto comercial, o que impede a sua utilização para gerar imitações de figuras públicas ou políticas. No entanto, a possibilidade de abuso desta tecnologia é real e preocupante.
Questões de Privacidade e Segurança
Um dos aspetos mais inquietantes do TerifAI é a falta de avisos claros sobre a clonagem de voz. Durante a utilização, não há indicações visuais de que a clonagem está a ocorrer, o que pode deixar os utilizadores desinformados sobre o que está a acontecer com os seus dados de voz. Além disso, não é claro quais são as proteções de privacidade oferecidas pelo TerifAI ou o que acontece aos dados recolhidos.
O design minimalista do site do TerifAI, com a face sorridente do chatbot a dominar a experiência, pode atrair muitos utilizadores curiosos, mas também levanta questões sobre a transparência e a segurança dos dados.
Sem Comentários! Seja o Primeiro.