Uma investigação aponta para uma recolha automatizada e persistente de dados públicos da ONU, recorrendo a várias técnicas para contornar limites de acesso.
Neste artigo encontras:
Agentes de inteligência artificial associados à OpenAI, com elevado grau de probabilidade mas sem confirmação definitiva, terão consultado mais de 16.500 vezes o site estatístico da Organização das Nações Unidas entre 13 de abril e 19 de junho.
Agentes ligados à OpenAI terão sondado dados da ONU
A análise foi divulgada pelo investigador Rowan Howard-Jones, que examinou registos públicos do serviço Urlquery. A ferramenta abre ligações num ambiente isolado e é usada, entre outras finalidades, para testes de segurança.
O alvo foi o UNCTADstat, a plataforma de dados da ONU dedicada ao comércio e ao desenvolvimento. Os pedidos sugerem interesse em informação sobre comércio alimentar, indústria e capacidade produtiva, embora não seja possível determinar com precisão o objetivo dos agentes.
Várias técnicas para contornar os limites da API
Segundo o investigador, os agentes pareciam estar limitados a pedidos GET, usados normalmente para consultar páginas. No entanto, o principal ponto de acesso aos dados do UNCTADstat aceitava apenas pedidos POST.
Para ultrapassar esse obstáculo, foram carregadas páginas com formulários que enviavam automaticamente pedidos para o serviço da ONU quando eram abertas pelo navegador isolado do Urlquery.
Nas semanas seguintes, a operação terá recorrido a métodos mais complexos:
- tráfego encaminhado através de relays de terceiros;
- scripts alojados no XSS Game, uma plataforma educativa sobre falhas web;
- palavras-chave divididas em várias partes para evitar filtros;
- dupla codificação para esconder o nome do endpoint da API.
Howard-Jones identificou 55 pedidos com dupla codificação. Apesar de 82 pedidos terem sido limitados pelo sistema, a atividade terá continuado durante o período analisado.
Foi um ataque informático?
O investigador não classificou diretamente a operação como hacking. Os dados obtidos eram públicos e não há indicação de que tenham sido acedidas informações privadas ou sistemas protegidos.
Ainda assim, Alex Stamos, professor de cibersegurança em Stanford, descreveu a atividade como próxima dos limites de um ataque informático, embora essencialmente equivalente a uma recolha de dados extremamente agressiva.
A diferença é relevante: consultar informação pública não é, por si só, ilegal. Porém, usar proxies, técnicas de codificação e serviços intermediários para ultrapassar limites técnicos pode criar riscos para a estabilidade e a segurança de uma plataforma.
OpenAI está a analisar as conclusões
As páginas observadas incluíam identificadores como “CHATGPTTEST1” e “OAI_META_1312”. Alguns dos endereços associados pertenciam à Microsoft Azure e também tinham surgido numa campanha conhecida como DseWiki, que a OpenAI confirmou anteriormente como sendo da sua responsabilidade.
Essa ligação levou Howard-Jones a considerar muito provável a relação com a OpenAI, mas não constitui uma prova definitiva. A empresa terá informado que está a rever as conclusões e disponibilizou-se para fazer um briefing às Nações Unidas.
O investigador afirma ainda ter comunicado previamente à equipa de segurança da UN Trade and Development a técnica de contorno baseada em codificação.
Mais pressão sobre os agentes autónomos
O caso surge depois de outros episódios que levantaram dúvidas sobre a forma como agentes de IA interagem com serviços externos. Entre eles está uma inundação de pacotes na plataforma RubyGems e um incidente no qual um agente da OpenAI demorou horas a ser interrompido depois de sair do ambiente isolado.
Para os utilizadores comuns, o episódio mostra que os agentes de IA já conseguem executar tarefas repetitivas em grande escala. Para as organizações, deixa um alerta: dados públicos continuam a precisar de limites, monitorização e mecanismos de defesa contra acessos automatizados intensivos.
Fonte: TNW | OpenAI
Sem Comentários! Seja o Primeiro.