Nos últimos anos, a desinformação digital tornou-se uma ferramenta poderosa nas mãos de governos e organizações que procuram influenciar a opinião pública e moldar narrativas geopolíticas. Recentemente, autoridades dos Estados Unidos e seus aliados desmantelaram uma operação russa que utilizava bots alimentados por inteligência artificial (IA) para espalhar desinformação em grande escala. Este artigo explora os detalhes desta operação e as implicações mais amplas do uso de IA na guerra da informação.
De acordo com o Departamento de Justiça dos EUA, uma bot farm russa composta por quase 1.000 contas foi identificada e desativada. Estas contas estavam a espalhar desinformação e sentimentos pró-Rússia na plataforma X, anteriormente conhecida como Twitter.
A operação foi facilitada por um software desenvolvido pelo departamento de media digital da RT, um meio de comunicação controlado pelo estado russo. Este software, liderado pelo vice-editor-chefe da RT em 2022, foi aprovado e financiado por um oficial do Serviço Federal de Segurança da Rússia, o sucessor principal do KGB.
Ferramentas de Desinformação Avançadas
Uma das ferramentas centrais desta operação foi o “Meliorator”, um software capaz de criar “pessoas reais em redes sociais autênticas em massa”. Este software não só gerava mensagens de texto e imagens, mas também replicava desinformação de outras contas de bots. As autoridades confiscaram dois domínios utilizados para criar endereços de email necessários para registar contas na plataforma X, que servia como base para os bots.
Embora muitas das contas já tenham sido identificadas e suspensas pela plataforma X, o Departamento de Justiça ainda está a trabalhar para localizar todas as 968 contas utilizadas pelos atores russos. A operação violou várias leis dos EUA, incluindo o International Emergency Economic Powers Act e as leis federais de branqueamento de capitais.
Perfis Falsos e Propaganda
Os perfis criados pelo Meliorator frequentemente imitavam americanos, utilizando nomes e localizações nos EUA. Por exemplo, um perfil com o nome Ricardo Abbott, supostamente de Minneapolis, publicou um vídeo do presidente russo Vladimir Putin a justificar as ações da Rússia na Ucrânia. Outro perfil, com o nome Sue Williamson, publicou um vídeo de Putin a afirmar que a guerra na Ucrânia não era sobre conflito territorial, mas sim sobre “princípios nos quais a Nova Ordem Mundial será baseada”. Estas publicações eram então gostadas e partilhadas por outros bots na rede, amplificando a desinformação.
Embora este bot farm específico estivesse confinado à plataforma X, as autoridades descobriram que os responsáveis tinham planos de expandir para outras plataformas. A utilização de IA para espalhar desinformação não é nova, mas a escala e sofisticação desta operação destacam a crescente ameaça que estas tecnologias representam.
Ameaça Global
A utilização de IA para influenciar resultados políticos não é exclusiva da Rússia. Em maio, a OpenAI relatou ter desmantelado cinco operações de influência encobertas originárias da Rússia, China, Israel e Irão, que utilizavam os seus modelos para influenciar resultados políticos.
O diretor do FBI, Christopher Wray, afirmou: “A Rússia pretendia usar este bot farm para disseminar desinformação estrangeira gerada por IA, escalando o seu trabalho com a assistência da IA para minar os nossos parceiros na Ucrânia e influenciar narrativas geopolíticas favoráveis ao governo russo. O FBI está comprometido em trabalhar com os nossos parceiros e implementar operações conjuntas e sequenciadas para interromper estrategicamente os nossos adversários mais perigosos e o seu uso de tecnologia de ponta para fins nefastos.”
Fonte: Bloomberg