Há alguns anos, antes de DALL-E ou MidJourney, começaram a surgir as primeiras páginas web de geração de rostros através de inteligência artificial. Todos nós ficamos legitimamente surpreendidos com o seu realismo, mas ainda assim havia vários indicadores que nos permitiam identificar os rostos falsos. Muitos deles ainda tinham algo de ‘estranho’, de ‘realista mas não’, algo semelhante ao ‘fenómeno do vale inquietante’, que nos fazia franzir a testa ao vê-los.
Mas isso era antes. Agora, como se costuma dizer, as coisas avançaram de forma impressionante: a IA generativa atingiu um nível de realismo surpreendente, e alguns dos seus resultados podem até confundir-nos, fazendo-nos acreditar que estamos a ver outros seres humanos. De facto, um estudo recente publicado na revista Psychological Science lançou alguma luz sobre este assunto.
O estudo, intitulado “AI Hyperrealism: Why AI Faces Are Perceived as More Real Than Human Ones”, foi realizado por uma equipa de investigadores de universidades britânicas, australianas e canadianas. O seu objetivo? Investigar como os rostos gerados pela IA são “mais reais” do que as fotografias de humanos reais.
Para realizar o estudo, foi apresentado a um grupo de adultos uma mistura de 100 imagens geradas por IA e 100 fotografias de pessoas reais. Foi pedido a estes participantes que identificassem quais eram os rostos reais e quais os gerados por IA, bem como o seu nível de confiança nas suas decisões.
Os resultados foram surpreendentes: 66% das imagens geradas por IA foram identificadas como rostos humanos, em comparação com 51% das imagens reais.
Os investigadores sugerem que fatores como a proporcionalidade, a familiaridade e a falta de traços distintivos fizeram com que os rostos gerados pela IA parecessem mais reais aos participantes. Esta percepção de atratividade e normalidade nos rostos gerados pela IA tornou-os mais difíceis de distinguir dos rostos humanos reais.
No entanto, este fenómeno não foi observado em imagens de pessoas com outras cores do primeiro estudo, onde tanto os rostos gerados pela IA como os reais foram percebidos como humanos em aproximadamente 51% das ocasiões, independentemente da raça do participante. Isto sugere que o viés nos modelos de IA, que muitas vezes são treinados principalmente com imagens de pessoas brancas, pode estar a influenciar este fenómeno de ‘hiper realismo IA’.
Curiosamente, embora os humanos tenham tido dificuldades em diferenciar entre rostos reais e gerados por IA, os investigadores desenvolveram um sistema de aprendizagem automática capaz de detetar a resposta correta em 94% das ocasiões.
A incapacidade das pessoas em diferenciar entre rostos reais e gerados por IA poderia levar a um aumento de práticas enganosas, como a fraude de identidade. Além disso, segundo o Dr. Zak Witkower, coautor da pesquisa, este viés racial na geração de rostos através da IA poderia ter consequências negativas em áreas como a busca de pessoas desaparecidas ou o reconhecimento facial em sistemas de segurança pública.
A possibilidade de fraude de identidade e o viés racial inerente a estes modelos são questões que precisam ser abordadas à medida que continuamos a desenvolver e a utilizar esta tecnologia. É essencial que continuemos a investigar e a compreender estas questões para garantir que a IA é utilizada de forma responsável e ética.
Fonte: journals.sagepub
