A Google está a testar uma marca d’água digital para detetar imagens feitas por inteligência artificial (IA) na sua própria ferramenta. Segundo a notícia da PC Mag esta é uma tentativa da marca de combater a desinformação.
Desenvolvido pela DeepMind, braço de IA da Google, o SynthID identificará imagens geradas por máquinas. A fórmula funciona incorporando alterações em pixels individuais nas imagens, de modo que as marcas d’água sejam invisíveis ao olho humano, mas detetáveis pelos computadores. Contudo, a DeepMind diz que não é “infalível contra a manipulação extrema de imagens”.
À medida que a tecnologia evolui, torna-se cada vez mais complexo distinguir a diferença entre imagens reais e imagens geradas artificialmente.
Os geradores de imagens de IA tornaram-se muito populares, à medida que a ferramenta Midjourney foi agregando cada vez mais e mais utilizadores: já são 14,5 milhões.
Este tipo de ferramenta permite que as pessoas criem imagens em segundos, inserindo instruções de texto simples, levando a questões sobre direitos autorais e propriedade em todo o mundo.
A Google possui o seu próprio gerador de imagens chamado Imagen, e o seu sistema de criação e verificação de marcas d’água só se aplica a imagens criadas com esta ferramenta.
As marcas d’água são normalmente um logotipo ou texto adicionado a uma imagem para mostrar a sua propriedade, embora também tenham por missão dificultar a cópia e uso da imagem sem permissão. Mas estes tipos de marca d’água não são adequados para identificar imagens geradas por Al porque podem ser facilmente editadas ou recortadas.
As empresas de tecnologia usam uma técnica chamada hashing para criar “impressões digitais” nos vídeos, por forma a poderem ser identificados e removidos rapidamente caso comecem a espalhar-se online. Mas este sistema de verificação também pode ser corrompido se o vídeo for cortado ou editado.
O sistema do Google cria uma marca d’água efetivamente invisível, que permitirá que as pessoas usem o seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina. Ao contrário do hashing, mesmo depois da imagem ser posteriormente cortada ou editada, o software da empresa ainda consegue identificar a presença da marca d’água.
De recordar que, no mês passado, a Google foi uma das sete empresas líderes em inteligência artificial a assinar um acordo voluntário nos Estados Unidos para garantir o desenvolvimento e utilização seguros da IA, que incluía garantir que as pessoas fossem capazes de detetar imagens feitas por computador através da implementação de marcas de água.
