Maus bots podem ajudar o Facebook

Red Magic 6S

Os investigadores do Facebook desenvolveram uma Web-Enabled Simulation (WES) que usa machine learning para treinar bots de forma a simularem “comportamentos negativos” e poderem andar pela web a fazer pesquisas, visitar páginas e até tentar comprar produtos ilegais.

O projeto usa um novo método de construção de simulações de larga escala, altamente realísticas, de redes sociais complexas, e tem aplicação direta nas áreas da proteção, segurança e privacidade, como explicou Mark Harman num encontro com um grupo restrito de jornalistas e que teve eco na imprensa internacional. Ainda é um projeto de investigação criado no FAIR (Facebook Artificial Intelligence Research), mas acredita-se que pode vir a tornar o Facebook mais seguro e ajudar no desenvolvimento de videojogos.

Na rede social foram criados grupos de “bots inocentes” e outros de “bots ruins” que exploram as falhas no sistema para terem comportamentos pouco recomendáveis. Os bots são treinados para interagir entre eles, dentro de comunidades de agentes inteligentes, usando a mesma infraestrutura que os utilizadores, mas sem nunca agirem com as pessoas reais. Podem enviar mensagens, fazer publicações, pedidos de amizade, fazer pesquisas e até tentar comprar produtos que são proibidos no Facebook, como drogas e armas.

Por enquanto este “exército” de bots é treinado para imitar comportamentos que os investigadores sabem que podem acontecer realmente, mas o objetivo é antecipar movimentos de ódio e malvadez.

A prevenção de comportamentos negativos é uma das preocupações do Facebook que tem investido em várias áreas para moderar comentários e posts, impedir publicações que violem as regras de não violência e uso de pornografia, por exemplo. Contudo, as autoridades têm estado bastante atentas ao Facebook que, frequentemente, viola esta desejável conduta.

O investigador defende que neste tipo de testes o software tem uma capacidade de adaptação e modificação de comportamento que é ideal para antecipar possíveis mudanças.

O ambiente em que os bots se movimentam foi criado especificamente para o projeto e é o WW, uma versão reduzida da WWW (World Wide Web). É um ambiente simulado e controlado do Facebook, mas que usa a plataforma de produção da rede social. Aqui os bots têm liberdade para agir como utilizadores normais, e até contornar as regras de segurança impostas. Desta forma consegue-se antecipar potenciais comportamentos nocivos.

Para acelerar o desenvolvimento da plataforma de simulação WES o Facebook está à procura de ajuda da comunidade científica e já detalhou os progressos da simulação e do protótipo WW.

Fonte: Guardian

Quer saber outras novidades? Veja em baixo as nossas Sugestões

Quer saber outras novidades? Veja em baixo as nossas Sugestões

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here