Apple e Google estão sob nova pressão nos Estados Unidos por alegadamente permitirem a distribuição de apps de IA capazes de criar nudes falsos. O caso ganhou força depois de a procuradoria de São Francisco exigir a remoção imediata de várias aplicações disponíveis nas lojas das duas empresas.
Neste artigo encontras:
Em causa estão ferramentas que alteram fotografias reais para simular nudez sem consentimento. Para as autoridades, não se trata apenas de um problema ético: estas apps podem violar a lei da Califórnia e alimentar abuso, assédio e exploração de imagem.
Procuradoria quer remoção imediata de 13 apps
Segundo notificações judiciais enviadas à Apple e à Google, 13 aplicações identificadas estariam a facilitar a criação de imagens íntimas falsas com recurso a inteligência artificial. O entendimento da procuradoria é claro: plataformas que distribuem ou lucram com este tipo de serviço podem estar a contribuir para uma actividade ilegal.
O ponto central da acusação é o modelo de negócio. Como as lojas recolhem comissões sobre compras e pagamentos dentro das apps, as autoridades defendem que as tecnológicas podem estar a beneficiar financeiramente de conteúdo sexual sintético não consensual.
Porque é que isto importa para os utilizadores
O impacto deste tipo de apps vai muito além do debate sobre moderação nas lojas digitais. Na prática, qualquer fotografia publicada nas redes sociais pode ser manipulada e transformada em conteúdo íntimo falso com grande realismo.
O problema atinge sobretudo mulheres e adolescentes, que são frequentemente os principais alvos destas ferramentas. Uma imagem comum pode ser usada para criar humilhação pública, chantagem ou assédio digital em poucos minutos.
Apps chegaram a ter classificações inadequadas
Outro ponto que agravou o caso foi a forma como algumas destas aplicações estavam classificadas nas lojas. De acordo com a procuradoria, houve apps com indicação etária demasiado baixa, ao ponto de poderem surgir como apropriadas para públicos jovens.
Isso aumenta a pressão sobre Apple e Google, não só pela presença das apps, mas também pela forma como foram apresentadas aos utilizadores.
Lei da Califórnia pode complicar a situação
A legislação da Califórnia proíbe a criação e comercialização de pornografia sintética não consensual. Além disso, as autoridades consideram que também pode ser ilegal prestar apoio técnico ou financeiro a serviços dedicados a esse fim.
Na prática, isto abre espaço para uma interpretação mais dura sobre o papel das grandes plataformas. A discussão já não passa apenas por remover conteúdos problemáticos depois de denúncias, mas por impedir desde logo a sua distribuição e monetização.
Google diz que já removeu conteúdo
A Google afirmou que a Play Store não permite aplicações com conteúdo sexual deste tipo e garantiu que tem vindo a actuar. Segundo a empresa, foram removidas centenas de apps com funcionalidades semelhantes na Google Play, além da suspensão de contas de programadores e de pagamentos associados.
Do lado da Apple, não houve para já uma resposta pública com o mesmo nível de detalhe sobre a manutenção destas apps na App Store.
O debate sobre IA e abuso está a ganhar escala
Este caso surge numa altura em que cresce a preocupação com ferramentas de IA capazes de manipular imagens com um realismo cada vez maior. O acesso é simples, o resultado é rápido e o dano para as vítimas pode ser imediato.
Nos últimos meses, a pressão sobre empresas tecnológicas tem aumentado. Também em janeiro foram abertas investigações nos EUA relacionadas com sistemas de IA usados para gerar conteúdo adulto com pessoas reais, incluindo menores.
A mensagem das autoridades é cada vez mais directa: a inovação tecnológica não pode servir de escudo para práticas abusivas. E, desta vez, o foco não está apenas em quem cria estas apps, mas também em quem lhes dá espaço para circular.
Sem Comentários! Seja o Primeiro.