UE investiga Grok e X por deepfakes potencialmente ilegais

A União Europeia abriu uma nova frente de investigação ao X, a rede social de Elon Musk, por alegadas falhas na prevenção e remoção de imagens sexualmente explícitas geradas por inteligência artificial, incluindo material de abuso sexual infantil. O dossiê ganha particular peso porque coincide com a chegada do Grok, o modelo generativo integrado no X, e surge pouco tempo depois de uma multa pesada aplicada ao abrigo do Digital Services Act (DSA).

Em causa, segundo Bruxelas, está a proteção de mulheres e crianças, mas também a avaliação de risco e a mitigação de danos que a lei exige às plataformas muito grandes.

O que está em causa e por que a investigação é diferente

A Comissão Europeia quer perceber se o X cumpriu a lei quando lançou novas funcionalidades com IA generativa e se colocou salvaguardas à altura do risco. Entre as preocupações está a disseminação de imagens manipuladas de cariz sexual — os chamados deepfakes — e a possibilidade de parte desse conteúdo configurar material de abuso sexual infantil (CSAM), o que é ilegal e gravíssimo.

Os reguladores afirmam que estes riscos não são teóricos: parecem ter-se materializado, expondo utilizadores europeus a danos reais. Em paralelo, Bruxelas alargou uma investigação iniciada em 2023 ao motor de recomendação do X e às ferramentas de moderação, para perceber se a plataforma está a conter eficazmente conteúdos ilícitos e a reduzir a viralidade de publicações abusivas.

O DSA não é um aviso: é um manual de procedimentos obrigatório

O DSA transformou a moderação de conteúdo em obrigações concretas. Para plataformas muito grandes (como o X), a lei exige:

• Avaliação periódica de riscos sistémicos, incluindo a proteção de menores e a manipulação por IA.
• Medidas eficazes de mitigação desses riscos, testadas antes e depois do lançamento de novas features.
• Transparência sobre algoritmos de recomendação e opções para o utilizador reduzir amplificação.
• Processos robustos de denúncia, resposta rápida e cooperação com autoridades.
• Auditorias independentes e relatórios públicos sobre moderação e cumprimento.

Na prática, não basta prometer “tolerância zero”. É preciso provar que a plataforma deteta pró-ativamente conteúdos ilegais, impede a sua recirculação e ajusta os sistemas de recomendação para não amplificar dano.

Grok e a IA generativa: quando a inovação mexe com a linha vermelha

A integração do Grok no X trouxe capacidades de geração e transformação de conteúdo em tempo real. Esse poder criativo é também um novo vetor de risco: qualquer falha de controlo pode permitir a criação, a manipulação ou a disseminação de imagens sexualmente explícitas não consensuais.

Que barreiras técnicas são esperadas num lançamento responsável?

• Filtros de segurança em várias camadas: bloqueio de prompts e outputs com nudez não consensual, crianças ou exploração.
• Detecção e bloqueio de imagens ilícitas conhecidos via hashing de CSAM (ex.: PhotoDNA) e redes de partilha de indicadores.
• Sinais de proveniência e autenticidade (watermarking, metadados C2PA) para diferenciar conteúdo gerado por IA.
• Controlo de velocidade e de abuso (rate limiting, verificação reforçada) para travar campanhas coordenadas.
• Equipa de resposta 24/7 e supervisão humana para casos sensíveis.

O que a UE quer saber é simples: o X fez esta diligência antes de lançar o Grok e tem provas do seu funcionamento eficaz? Se a resposta for tímida, há terreno fértil para medidas de execução.

Multas, política e reputação: o custo de falhar a Europa

A investigação acontece com a relação UE–Big Tech sob tensão. O X já foi multado em 120 milhões de euros por violar o DSA e a Comissão deixou claro que “deepfakes sexuais de mulheres e crianças” são uma linha vermelha. Em termos legais, as coimas ao abrigo do DSA podem chegar a 6% do volume de negócios global, a par de ordens vinculativas para corrigir práticas, alterar algoritmos ou suspender funcionalidades de risco.

Há ainda o custo invisível: confiança de utilizadores, marcas e reguladores. Plataformas que não conseguem garantir um padrão de segurança consistente veem a sua receita publicitária e a sua margem de manobra regulatória encolher. O X, que tem defendido publicamente a liberdade de expressão como eixo central, precisa de demonstrar que a liberdade não é um biombo para a impunidade de conteúdos ilegais.

O que pode acontecer a seguir

O guião europeu é conhecido: pedidos formais de informação com prazos curtos, exigência de logs, dados de moderação, testes internos e documentação de mitigação. Seguem-se, quando necessário, inspeções técnicas, auditorias e potenciais medidas provisórias para conter danos imediatos. O X, por seu lado, reitera que mantém tolerância zero a exploração infantil e nudez não consensual e que quer uma plataforma segura para todos.

Mesmo num cenário de cooperação, estas investigações demoram semanas ou meses e podem concluir com compromissos vinculativos. Se Bruxelas considerar as medidas insuficientes, novas coimas e ordens corretivas entram em cima da mesa. O foco adicional na recomendação algorítmica prevê mudanças tangíveis na forma como o feed promove — ou despromove — conteúdos sensíveis.

Porque isto importa ao utilizador comum

O impacto não é abstrato. Uma moderação eficaz diminui a probabilidade de topar com conteúdo abusivo e protege vítimas de revitimização. Para quem usa o X diariamente:

• Ajuste as preferências de recomendação e limite a exposição a conteúdo sensível.
• Denuncie de imediato qualquer imagem suspeita; não partilhe nem comente, para não impulsionar alcance.
• Reforce a segurança da conta e esteja atento a verificações “oficiais” duvidosas.
• Se for alvo de deepfake, procure suporte legal e organizações de apoio a vítimas; documente os URLs e acione os canais de denúncia da plataforma e das autoridades.

Conclusão

A investigação da UE ao X não é só mais um braço de ferro regulatório: é um teste ao modelo de governação de IA em plataformas sociais globais. O equilíbrio entre inovação e segurança deixou de ser conversa de auditório — é um requisito legal com consequências financeiras e reputacionais reais. O desfecho dirá até que ponto as Big Tech conseguem escalar produtos de IA mantendo o padrão de proteção que a Europa exige.

FAQ

O que motivou a investigação da UE ao X?
Suspeitas de falhas na prevenção e remoção de deepfakes sexuais e possível envolvimento de material de abuso infantil, à luz das obrigações do DSA para plataformas muito grandes.

O que é o DSA e a quem se aplica?
O Digital Services Act é a lei europeia que impõe regras de moderação, transparência e mitigação de riscos a serviços digitais. As plataformas muito grandes têm deveres reforçados, incluindo auditorias e avaliação de riscos sistémicos.

Qual é o papel do Grok nesta história?
A UE quer avaliar se, com a integração do Grok (IA generativa) no X, foram implementadas salvaguardas técnicas e operacionais adequadas para evitar a criação e a disseminação de conteúdo sexualmente explícito ilegal ou não consensual.

Que sanções o X pode enfrentar?
Coimas significativas ao abrigo do DSA, ordens para alterar funcionalidades e práticas, e fiscalização contínua. Em casos graves, as multas podem escalar consoante a gravidade e reincidência.

Isto afeta outras redes sociais?
Sim. O precedente define expectativas para qualquer plataforma que integre IA generativa. Avaliação de risco antes do lançamento, filtros de segurança e auditabilidade passam a ser “mínimos olímpicos”.

Enquanto utilizador, o que devo fazer perante um deepfake?
Não interaja com o conteúdo, denuncie de imediato na plataforma, guarde provas (links, capturas) e, se necessário, contacte as autoridades. Evite partilhar, mesmo para criticar — aumenta o alcance.

Fonte: Engadget