A polémica em torno de imagens geradas por inteligência artificial voltou a centrar atenções no Grok, o chatbot de IA associado ao X. Depois de semanas de críticas por conteúdos sexualizados não consensuais incluindo a edição de fotografias de pessoas reais a plataforma anunciou restrições adicionais à criação e edição de imagens.
Na prática, o serviço deixa de permitir a manipulação de fotos de pessoas em trajes reveladores e passa a impor barreiras por jurisdição (“geoblocking”) onde tal conteúdo seja ilegal. Em paralelo, a geração e edição de imagens através da conta Grok no X fica reservada a subscritores.
Estas medidas chegam no meio de um vendaval regulatório: a Califórnia abriu uma investigação à xAI, a Criadora do Grok, e no Reino Unido o governo já falou em intervir se a plataforma não conseguir controlar abusos. Noutros mercados, como Indonésia e Malásia, o acesso ao Grok foi bloqueado. Para uma tecnologia que vive da ubiquidade, a pressão é real e global.
O que muda, exatamente, para quem usa o Grok
Há três pilares centrais nas alterações agora reveladas. Primeiro, a plataforma afirma ter implementado controlos técnicos que impedem a edição de imagens de pessoas reais com pouca roupa (por exemplo, biquínis ou roupa interior). Segundo, a criação/edição de imagens no Grok dentro do X passa a estar limitada a contas pagas, numa tentativa de elevar a barreira de entrada e responsabilizar mais diretamente quem usa a ferramenta. Terceiro, surge a capacidade de geobloquear a geração de imagens sexualizadas de pessoas reais em jurisdições onde esse conteúdo seja ilegal.
A segurança infantil e a nudez não consensual são referidas como prioridades, o que alinha a comunicação da plataforma com obrigações legais e com expectativas públicas mínimas. Ainda assim, a forma como estas proteções são aplicadas e, sobretudo, auditadas será o verdadeiro teste.
Porque é que isto acontece agora: o peso do escrutínio jurídico
A pressão regulatória intensificou-se. Nos Estados Unidos, os procuradores estaduais têm reforçado o olhar sobre conteúdos gerados por IA, em particular quando envolvem menores ou quando há exploração sexual não consensual. Há ainda um detalhe jurídico que está a ganhar tração: a tradicional imunidade que protege plataformas quanto a conteúdo criado por utilizadores (como nos EUA, via Section 230) pode não abranger, de forma tão ampla, conteúdos gerados pela própria tecnologia da aplicação. Em termos simples: se o sistema cria o conteúdo problemático, a responsabilidade pode aproximar-se mais da empresa do que do utilizador.
Fora dos EUA, o cerco é semelhante. No Reino Unido, o sinal político é claro: se a moderação falhar, o Estado intervém. E em mercados do Sudeste Asiático, a tolerância a falhas foi baixa, resultando em bloqueios preventivos. Este mosaico regulatório torna inevitável a adoção de mecanismos de geobloqueio e de políticas diferenciadas por país.
Limitações técnicas: a linha ténue entre prevenção e excesso
Bloquear edições “de pessoas reais em trajes reveladores” parece uma solução óbvia, mas abre uma caixa de Pandora técnica. Distinguir com fiabilidade “pessoa real” de avatar hiper-realista é difícil; os classificadores de nudez falham com roupa justa, biquínis ou imagens de praia; e detetar idade a partir de uma fotografia é notoriamente impreciso. Além disso, modelos de IA adversariais e pedidos de utilização criativos contornam barreiras com facilidade.
Medidas eficazes tendem a combinar várias camadas: reconhecimento facial para evitar edição de rostos reais (com consentimento explícito quando aplicável), classificadores de conteúdo treinados para contextos culturais distintos, hashing perceptual e bases de dados de referência para deteção de material proibido, e registos de proveniência (C2PA) para sinalizar quando uma imagem foi gerada ou alterada por IA. Mesmo assim, não há bala de prata. O equilíbrio entre redução de danos e liberdade criativa exige supervisão humana e auditorias externas.
Impacto no ecossistema: criadores, marcas e plataformas
Para criadores e marcas, a mensagem é dupla. Por um lado, estas mudanças podem reduzir o risco de verem a sua imagem explorada sem consentimento. Por outro, a dinâmica de subscrição pode deslocar o problema para um grupo mais pequeno, mas potencialmente mais motivado, de utilizadores mal-intencionados. Daí a importância de medidas complementares: pedidos de remoção ágeis, fluxos de denúncia visíveis e tempos de resposta curtos.
As marcas devem reforçar a monitorização ativa de menções e imagens, implementar marcas d’água robustas e adotar normas de proveniência de conteúdos. Para vítimas de deepfakes, canais de denúncia acessíveis e suporte jurídico rápido são críticos. E para developers, a lição é clara: segurança por design. Isso inclui testes de red-teaming, limitação de funcionalidades de edição fotorealista, logs auditáveis e parcerias com entidades independentes para avaliar impacto e enviesamentos.
Fonte: Mashable
