Uma experiência de segurança está a lançar um alerta sério sobre o ecossistema dos agentes de inteligência artificial. Uma empresa conseguiu publicar uma skill falsa de IA, fazê-la passar nos principais scanners de segurança e, alegadamente, levá-la a cerca de 26 mil agentes.
Neste artigo encontras:
- Como a skill falsa de IA enganou os sistemas
- O truque estava fora do pacote analisado
- Porque é que isto importa agora
- Estrelas no GitHub e selo de segurança nem sempre chegam
- Uma falha estrutural nos scanners de segurança
- Os 26 mil agentes devem ser lidos com cautela
- O que empresas e utilizadores devem fazer
O mais inquietante é que o ficheiro analisado parecia limpo. O problema estava noutro lado: num link externo que podia ser alterado depois da aprovação.
Como a skill falsa de IA enganou os sistemas
A empresa de cibersegurança AIR criou uma skill chamada brand-landingpage, apresentada como uma ferramenta para criar landing pages com recurso ao Stitch, associado ao universo Google. O alvo eram utilizadores não técnicos, como profissionais de marketing, vendas e design.
Segundo a empresa, a skill foi submetida a um marketplace popular e passou pelos verificadores de segurança testados, incluindo soluções usadas por grandes plataformas. À primeira vista, nada parecia malicioso.
Mas havia um detalhe crítico: a skill incluía instruções para seguir documentação alojada num endereço externo controlado pela própria AIR.
O truque estava fora do pacote analisado
Durante a fase de verificação, esse link externo encaminhava para documentação legítima, o que ajudou a construir uma aparência credível. Como os scanners analisam sobretudo o pacote submetido e os ficheiros associados, a aprovação foi dada.
Mais tarde, já depois de a skill estar instalada, a página por trás desse link foi alterada. Em vez de mostrar documentação inofensiva, passou a indicar o descarregamento e execução de um script.
Neste caso, a carga foi desenhada para ser inofensiva e recolher apenas o email do utilizador. Ainda assim, a demonstração mostra que um atacante real poderia usar a mesma técnica para ir muito mais longe.
O que um ataque destes poderia fazer
- Ler ficheiros disponíveis ao agente
- Mover dados para sistemas externos
- Tentar aceder a recursos internos de empresas
- Executar instruções adicionais após a instalação
Porque é que isto importa agora
Os agentes de IA estão a ganhar espaço em tarefas reais de trabalho. Já não são apenas chatbots: em muitos casos, conseguem instalar ferramentas, aceder a ficheiros e interagir com serviços empresariais.
Isso significa que uma falha numa skill pode transformar-se rapidamente numa porta de entrada para dados sensíveis. E o mais preocupante é que os sinais de confiança usados por muitos utilizadores continuam a ser frágeis.
Estrelas no GitHub e selo de segurança nem sempre chegam
Para tornar a skill mais convincente, a AIR aproveitou dois sinais que muitos utilizadores interpretam como prova de legitimidade: popularidade e aprovação automática.
De acordo com a descrição do teste, a skill foi associada a um repositório com milhares de estrelas no GitHub, herdando assim uma imagem de credibilidade. Depois, foi promovida com um anúncio no Instagram para atrair instalações.
O resultado mostra como estes indicadores podem ser enganadores. Uma skill pode parecer popular, passar no scanner e continuar a esconder risco real fora daquilo que foi verificado.
Uma falha estrutural nos scanners de segurança
O ponto central deste caso não é apenas uma campanha bem montada. É uma limitação estrutural: o scanner avalia um momento fixo no tempo, mas o conteúdo externo pode mudar depois.
Ou seja, a revisão acontece uma vez. Já a página externa indicada pela skill pode ser reescrita a qualquer momento.
Esta fragilidade já tinha sido apontada por outros investigadores nas últimas semanas. A conclusão repete-se: quando uma skill depende de links externos, a análise do pacote não basta para garantir segurança.
Os 26 mil agentes devem ser lidos com cautela
A AIR afirma que a skill alcançou aproximadamente 26 mil agentes, incluindo alguns ligados a contas empresariais. No entanto, estes números não foram confirmados de forma independente.
Há também um detalhe importante: a empresa está a lançar o seu próprio marketplace gerido para skills, o que aconselha alguma prudência na leitura das conclusões mais ambiciosas.
Ainda assim, mesmo que a escala real tenha sido menor, o método descrito é credível e alinha com fragilidades que outros investigadores já tinham demonstrado.
O que empresas e utilizadores devem fazer
A principal lição é simples: uma skill de IA deve ser tratada como software, não como um simples bloco de texto ou extensão inofensiva.
- Verificar não só o pacote, mas também os links externos usados pela skill
- Reavaliar a ferramenta sempre que houver alterações
- Usar versões fixas e controladas
- Limitar permissões ao mínimo necessário
- Centralizar a aprovação de novas skills em fontes de confiança
Fonte: Thenextweb
Sem Comentários! Seja o Primeiro.