Apple e Google estão sob nova pressão nos Estados Unidos depois de São Francisco ter exigido a remoção de dezenas de apps ‘nudify’ das suas lojas digitais. Em causa estão aplicações que usam inteligência artificial para criar imagens íntimas falsas sem consentimento.
Neste artigo encontras:
O caso volta a colocar os deepfakes no centro do debate e pode ter consequências sérias para as duas gigantes tecnológicas. A acusação é direta: ambas terão continuado a alojar e a lucrar com estas apps apesar dos avisos e das leis em vigor na Califórnia.
O que está a ser exigido à Apple e à Google
O procurador da cidade de São Francisco, David Chiu, enviou cartas às duas empresas a pedir a remoção de dezenas de aplicações conhecidas como nudify apps. Estas ferramentas recorrem a IA para manipular fotografias e simular nudez de pessoas reais.
Segundo a autarquia, este tipo de software pode facilitar a criação de pornografia deepfake não consensual, algo que a legislação da Califórnia já criminaliza quando há facilitação consciente ou apoio imprudente à produção desse material.
Porque é que este caso pode tornar-se especialmente grave
A pressão não é apenas política. São Francisco avisa que Apple e Google podem enfrentar sanções civis caso se conclua que violaram a lei ao permitir a distribuição e monetização destas aplicações.
As cartas referem ainda que as empresas já teriam sido alertadas várias vezes ao longo dos últimos meses. Apesar disso, as apps continuaram disponíveis e com sistemas de pagamento ativos nas respetivas lojas.
As empresas já tinham sido avisadas
De acordo com a informação citada pelas autoridades, o Tech Transparency Project terá identificado em janeiro e abril várias apps nas lojas da Apple e da Google que vendiam imagens íntimas falsas geradas por IA.
Esses relatórios alegavam que existiam dezenas de aplicações a comercializar este tipo de conteúdo, com pagamentos processados pelas próprias plataformas.
O lado mais preocupante das apps ‘nudify’
Embora a pornografia deepfake tenha afetado sobretudo figuras públicas e celebridades, as apps ‘nudify’ alargam o problema a qualquer pessoa com uma fotografia publicada online. Na prática, uma imagem comum nas redes sociais pode ser usada para criar conteúdo sexual falso.
É isso que torna este fenómeno particularmente alarmante. Já não se trata apenas de casos mediáticos: o risco passa a estar ao alcance de qualquer utilizador.
Porque é que isto importa para os utilizadores
Este tema vai muito além das lojas de aplicações. Mostra como ferramentas de IA aparentemente acessíveis podem ser usadas de forma abusiva e com impacto real na privacidade, reputação e segurança das vítimas.
Também aumenta a pressão sobre Apple e Google para controlarem melhor aquilo que aprovam nas suas plataformas, especialmente quando estão em causa apps com potencial de abuso evidente.
- As apps usam IA para gerar nudez falsa a partir de fotos reais
- As vítimas podem ser pessoas anónimas, não apenas celebridades
- As plataformas podem vir a ser responsabilizadas civilmente
- O caso pode influenciar futuras regras para apps de IA
O que pode acontecer agora
São Francisco deu às duas empresas um prazo de 28 dias para responder. Até lá, a atenção estará centrada na forma como Apple e Google reagem a esta exigência.
Se houver remoções em massa, o caso poderá tornar-se um marco na forma como as grandes plataformas lidam com apps de IA ligadas a abuso sexual digital. Se não houver mudanças rápidas, o conflito legal pode escalar.
Fonte: Techcrunch
Sem Comentários! Seja o Primeiro.