França quer acabar com o discurso de ódio no Facebook e Google

O parlamento francês quer fazer aprovar uma nova medida que obrigará as gigantes tecnológicas como o Facebook ou a Google a remover conteúdo com discurso de ódio das suas plataformas. Segundo o The Verge, a incapacidade de remover publicações denunciadas no espaço de 24 horas pode levar a uma multa superior a um milhão de euros. Caso não removam o conteúdo em questão, as empresas podem receber multas superiores a 1,25 milhões de euros.

A medida francesa faz parte de uma iniciativa mais alargada para regular a Internet e pretende acelerar os processos de moderação das grandes empresas tecnológicas. Ainda não se sabe se e quando entrará em vigor.

De recordar que uma equipa de pesquisadores do Google já desenvolveu uma fórmula para detetar automaticamente o discurso de ódio online através do Perspective. A ideia é recorrer ao machine learning para reconhecer conteúdos abusivos ou ameaças e, assim, ajudar a promover conversas mais saudáveis nas redes sociais ou caixas de comentários.

Outros pesquisadores brasileiros descobriram, todavia, que a tecnologia falha em entender o contexto ao analisar determinadas comunidades, como as drag queens. Por isso, se usada como forma de censura, pode funcionar exatamente a favor da propagação do discurso de ódio, silenciando as comunidades que mais sofrem com ela. Na prática, os brasileiros mostraram que a ferramenta considera que os comentários racistas são “conversas melhores” do que os palavrões e a exaltação à cultura gay de um perfil de uma drag queen.

O Perspective foi apresentado em 2017 pela Jigsaw, uma incubadora de projetos do grupo Alphabet (a empresa-mãe do grupo Google). A API pode ser conectada a outros sites, serviços e ser usada em diferentes plataformas interessadas em “alimentar conversas melhores”. Os jornais The Guardian e The New York Times também testaram a ferramenta para moderar automaticamente suas caixas de comentários, estando disponível em inglês, francês e espanhol.

O Perspective classifica numa escala de 0% a 100% a probabilidade de um comentário ser tóxico: rude, desrespeitoso ou não razoável.

Fonte: The Verge

Quer saber outras novidades? Veja em baixo as nossas Sugestões

Quer saber outras novidades? Veja em baixo as nossas Sugestões

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here