A Anthropic decidiu não abrir ao público um novo modelo de inteligência artificial capaz de detetar falhas graves em software. A empresa teme que a mesma tecnologia que pode ajudar a proteger sistemas também possa ser usada por atacantes para descobrir vulnerabilidades antes das equipas de defesa.
Neste artigo encontras:
O modelo chama-se Claude Mythos Preview e, segundo a empresa, já identificou milhares de vulnerabilidades de elevada gravidade, incluindo problemas em grandes sistemas operativos e browsers populares. Ainda assim, o acesso foi fortemente limitado.
Claude Mythos fica restrito a um grupo selecionado
Em vez de lançar a ferramenta de forma alargada, a Anthropic optou por entregá-la apenas a um pequeno conjunto de organizações. Entre elas estão nomes como AWS, Apple, Google, Microsoft, NVIDIA, Cisco, CrowdStrike, Broadcom, Palo Alto Networks e Linux Foundation.
A iniciativa recebeu o nome de Project Glasswing e tem como objetivo reforçar infraestruturas críticas de software com ajuda de IA. A empresa diz ainda que estendeu o acesso a mais de 40 entidades que desenvolvem ou mantêm software considerado essencial.
Porque é que esta IA de cibersegurança preocupa a Anthropic
A lógica é simples: uma IA que encontra falhas com grande eficácia pode ser uma vantagem enorme para quem quer corrigi-las, mas também para quem pretende explorá-las. É precisamente esse equilíbrio delicado que levou a empresa a travar o lançamento público.
Segundo a Anthropic, um uso malicioso deste tipo de modelo pode ter consequências sérias para a economia, a segurança pública e até a segurança nacional. Ou seja, não se trata apenas de bugs em aplicações comuns, mas de riscos com impacto muito mais vasto.
A empresa quer dar vantagem aos defensores
Dianne Penn, responsável de gestão de produto de investigação na Anthropic, explicou à CNBC que a decisão surgiu após longas discussões internas. A prioridade, disse, é dar uma vantagem inicial às equipas de ciberdefesa.
Na mesma linha, o CEO Dario Amodei afirmou que a ideia é permitir que os defensores encontrem e corrijam vulnerabilidades antes de modelos desta classe se tornarem mais comuns no ecossistema tecnológico.
O que muda para utilizadores e empresas
Para o público em geral, a principal consequência é clara: Claude Mythos não vai ficar disponível para todos, pelo menos para já. Ao contrário de outros modelos de IA mais virados para produtividade ou criação de conteúdo, este entra numa categoria mais sensível.
Para empresas e entidades que gerem infraestruturas críticas, a novidade pode ser relevante. Se a promessa se confirmar, ferramentas deste género poderão acelerar a descoberta de falhas e reduzir o tempo entre a deteção e a correção.
Porque é que isto importa agora
Nos últimos meses, o debate sobre IA e segurança ganhou novo peso. Já não se fala apenas de chatbots, imagens geradas por IA ou assistentes para trabalho. Fala-se também de modelos com capacidade para mexer diretamente na segurança da internet.
Isso coloca empresas como a Anthropic perante uma escolha difícil: lançar primeiro e corrigir depois, ou travar a tecnologia até existirem mais garantias. Neste caso, a segunda opção venceu.
Anthropic não fecha a porta a um lançamento futuro
Apesar da restrição, a empresa não diz que o modelo ficará para sempre fechado. A Anthropic afirma que está a estudar formas de disponibilizar modelos da classe Mythos de forma segura no futuro.
Para já, a mensagem é clara: quando uma IA de cibersegurança é poderosa ao ponto de encontrar falhas em larga escala, abrir as portas a toda a gente pode ser um risco demasiado grande.
Fonte: Mashable
Sem Comentários! Seja o Primeiro.