Site viral, ImageNet Roulette, causa comoção por fazer racismo…

O site viral ImageNet Roulette parecia inocente o suficiente para começar, usando inteligência artificial para selecionar rostos nas fotos e rotulá-los com base em sua aparência. Mas usuários furiosos dizem que a ferramenta os atingiu com termos ofensivos e racistas, como “olho oblíquo”, “negro” e “gook” pelo aplicativo. Pode parecer uma gafe desastrosa, mas a ImageNet Roulette foi realmente projetado para ser ofensiva.

Os criadores Kate Crawford, pesquisadora de IA e artista Trevor Paglen dizem que o aplicativo é deliberadamente provocador para chamar a atenção para os vieses inerentes à IA.

O ImageNet Roulette foi treinado com milhões de imagens e usa uma rede neural para classificar fotos de pessoas. Em sites de mídia social, usuários empolgados publicaram seus resultados, com poucos sortudos recebendo elogios como “Maneiro”, “Líder” ou “Linda”.

Outros não tiveram tanta sorte, com o aplicativo marcando-os como “Desajeitado” ou “nerd”.

Mas, à medida que milhares de postagens sobre o aplicativo foram filtradas, um pequeno conjunto de usuários furiosos relatou que o golpe os atingiu com linguagem racista e ofensiva.

Ofensas

A jornalista Julia Carrie Wong revelou no The Guardian que o aplicativo a chamava de “idiota”.

Ela escreveu: “Não sei exatamente o que esperava que a máquina me dissesse sobre mim, mas não esperava o que consegui: uma nova versão do meu tiro na cabeça oficial do Guardian, rotulado em verde neon: ‘gook, olho inclinado “.

“Abaixo da foto, meu rótulo foi útil como “um termo depreciativo para uma pessoa asiática (especialmente para soldados do Vietnã do Norte na Guerra do Vietnã) “.”

Outros usuários chocados foram ao Twitter para expressar sua indignação. O usuário Eric criticou o aplicativo depois que ele foi rotulado de “primeiro infrator”.

Ele disse: “Toda a Internet ama a Imagenet AI, um classificador de imagens que faz previsões peculiares! * 5 segundos depois * Lamentamos informar que a AI é racista”.

O usuário Sydnee Wagner foi rotulado de “mulato”, um termo racista histórico para alguém que é mestiço. Ela twittou: “Ei, Peeps, que o banco de dados Imagenet é F ****** RACIST.

“Eu não sou negra, mas sou heterossexual e caralho, você não pode usar a palavra “mulata” em 2019 !? Estou fodendo demais.”

Os desenvolvedores Kate e Trevor não se desculparam pela linguagem obscena usada pelo aplicativo.

Eles dizem que o projeto destaca o viés inconsciente e muitas vezes racista projetado nos sistemas de IA, geralmente decorrente da falta de diversidade na maneira como são construídos.

“O ImageNet contém várias categorias problemáticas, ofensivas e bizarras – todas retiradas do WordNet”, escrevem os dois no site do aplicativo.

“Alguns usam terminologia misógina ou racista. Portanto, os resultados retornados pela ImageNet Roulette também se basearão nessas categorias.

“Isso é planejado: queremos esclarecer o que acontece quando os sistemas técnicos são treinados em dados de treinamento problemáticos.

“As classificações de IA de pessoas raramente são visíveis para as pessoas que estão sendo classificadas. O ImageNet Roulette fornece uma visão geral desse processo – e mostra como as coisas podem dar errado.

“A tecnologia foi desenvolvida para mostrar a importância de escolher os dados corretos ao treinar um sistema de aprendizado de máquina, para evitar o próprio viés que exibe”.

Fonte

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here