O Google lançou um enorme conjunto de dados de vídeos deepfake, em um esforço para apoiar os pesquisadores que trabalham nas ferramentas de detecção. Os vídeos do Deepfake parecem tão autênticos que podem ser usados para campanhas de desinformação altamente convincentes nas próximas eleições.
Eles também podem causar incontáveis problemas para pessoas como celebridades, cujos rostos podem ser usados para criar vídeos pornográficos falsos que parecem autênticos.
A gigante da tecnologia filmou atores em uma variedade de cenas e depois usou métodos de geração de deepfake publicamente disponíveis para criar um banco de dados de cerca de 3.000 deepfakes.
Agora, os pesquisadores podem usar esse conjunto de dados para treinar ferramentas de detecção automatizada e torná-las tão eficazes e precisas quanto possível quando se trata de detectar imagens sintetizadas por IA.
O Google promete adicionar mais vídeos ao banco de dados, na esperança de poder acompanhar as técnicas de geração de deepfake em rápida evolução. A empresa disse em seu anúncio:
“Como o campo está se movendo rapidamente, adicionaremos a esse conjunto de dados à medida que a tecnologia deepfake evoluir ao longo do tempo, e continuaremos a trabalhar com parceiros nesse espaço. Acreditamos firmemente em apoiar uma comunidade de pesquisa próspera para mitigar possíveis danos causados por uso indevido de mídia sintética, e o lançamento de hoje do nosso conjunto de dados deepfake no benchmark FaceForensics é um passo importante nessa direção “.
O Google não é a única empresa de tecnologia que está contribuindo para a luta contra os deepfakes. O Facebook e a Microsoft também estão envolvidos em uma iniciativa de todo o setor para criar um conjunto de ferramentas de código aberto que empresas, governos e organizações de mídia podem usar para detectar vídeos falsificados.
A rede social planeja lançar um banco de dados semelhante até o final do ano, e duvidamos que o Google se importe – quanto mais amostras houver, afinal, as melhores ferramentas de detecção podem se tornar.
