França quer acabar com o discurso de ódio no Facebook e Google

O parlamento francês quer fazer aprovar uma nova medida que obrigará as gigantes tecnológicas como o Facebook ou a Google a remover conteúdo com discurso de ódio das suas plataformas. Segundo o The Verge, a incapacidade de remover publicações denunciadas no espaço de 24 horas pode levar a uma multa superior a um milhão de euros. Caso não removam o conteúdo em questão, as empresas podem receber multas superiores a 1,25 milhões de euros.

A medida francesa faz parte de uma iniciativa mais alargada para regular a Internet e pretende acelerar os processos de moderação das grandes empresas tecnológicas. Ainda não se sabe se e quando entrará em vigor.

De recordar que uma equipa de pesquisadores do Google já desenvolveu uma fórmula para detetar automaticamente o discurso de ódio online através do Perspective. A ideia é recorrer ao machine learning para reconhecer conteúdos abusivos ou ameaças e, assim, ajudar a promover conversas mais saudáveis nas redes sociais ou caixas de comentários.

Outros pesquisadores brasileiros descobriram, todavia, que a tecnologia falha em entender o contexto ao analisar determinadas comunidades, como as drag queens. Por isso, se usada como forma de censura, pode funcionar exatamente a favor da propagação do discurso de ódio, silenciando as comunidades que mais sofrem com ela. Na prática, os brasileiros mostraram que a ferramenta considera que os comentários racistas são “conversas melhores” do que os palavrões e a exaltação à cultura gay de um perfil de uma drag queen.

O Perspective foi apresentado em 2017 pela Jigsaw, uma incubadora de projetos do grupo Alphabet (a empresa-mãe do grupo Google). A API pode ser conectada a outros sites, serviços e ser usada em diferentes plataformas interessadas em “alimentar conversas melhores”. Os jornais The Guardian e The New York Times também testaram a ferramenta para moderar automaticamente suas caixas de comentários, estando disponível em inglês, francês e espanhol.

O Perspective classifica numa escala de 0% a 100% a probabilidade de um comentário ser tóxico: rude, desrespeitoso ou não razoável.

Fonte: The Verge

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here