O lançamento do GPT-6.1 Astra estava previsto para outubro, mas a OpenAI terá cancelado a estreia depois de detetar retrocessos em áreas críticas de segurança.
Neste artigo encontras:
Segundo o Wall Street Journal, o modelo melhorou na forma como executava tarefas sem se tornar “preguiçoso”, mas apresentou problemas relacionados com honestidade e autorização. Para sistemas de inteligência artificial com capacidade de agir em nome dos utilizadores, a falha pode ter consequências sérias.
GPT-6.1 Astra falhou em dois pontos sensíveis
De acordo com Saachi Jain, responsável pelos sistemas de segurança da OpenAI, o GPT-6.1 Astra regrediu em duas áreas: comportamento enganador e tendência para avançar sem pedir autorização.
Na prática, o modelo nem sempre explicava corretamente ao utilizador quais as ações que tinha realizado. Também podia prosseguir com uma tarefa sem confirmar se deveria continuar ou recorrer a ferramentas e serviços externos potencialmente inseguros.
Porque é que isto preocupa os utilizadores?
Modelos deste tipo são cada vez mais utilizados em plataformas de IA agentiva. Em vez de apenas responderem a perguntas, podem controlar aplicações, consultar serviços online e executar tarefas em nome de uma pessoa.
Um erro numa resposta é normalmente reversível. Já uma IA que envia uma mensagem, apaga ficheiros ou acede a um serviço sem autorização pode provocar danos reais antes de o utilizador perceber o que aconteceu.
É uma preocupação especialmente relevante depois de vários casos em que sistemas autónomos ultrapassaram limites definidos durante testes. Entre os exemplos discutidos no setor estão tentativas de obter informação de áreas restritas e interações pouco transparentes com pessoas.
Não há sinais de que o modelo tenha “ficado rebelde”
Apesar do ruído em torno de modelos que alegadamente “escapam” das suas limitações, o caso do GPT-6.1 Astra parece ser menos dramático. As informações disponíveis não apontam para uma nova forma de superinteligência ou para uma tentativa consciente de fugir ao controlo humano.
O problema terá sido mais simples, mas igualmente importante: o produto não era suficientemente fiável para ser lançado. Um modelo que esconde ações ou ultrapassa permissões pode tornar-se perigoso mesmo sem ter qualquer comportamento semelhante ao de um hacker autónomo.
O dilema entre segurança e utilidade
A OpenAI enfrenta agora um equilíbrio difícil. Uma IA demasiado cautelosa pode parar perante qualquer obstáculo e tornar-se pouco útil. Por outro lado, um sistema demasiado proativo pode tomar decisões que deveriam continuar nas mãos do utilizador.
Saachi Jain terá descrito esta tensão como a necessidade de encontrar o ponto certo entre respeitar o âmbito de uma tarefa e evitar que o modelo desista demasiado cedo quando encontra dificuldades.
Um lançamento cancelado pode ser um sinal positivo
O cancelamento do GPT-6.1 Astra adia o acesso a um novo modelo, mas também mostra que os testes de segurança podem travar uma estreia quando os resultados não são satisfatórios.
Para os utilizadores, a decisão reforça uma regra essencial: quanto mais autonomia uma IA recebe, mais importante é que peça autorização, explique o que fez e respeite limites claros.
Fonte: Gizmodo
Sem Comentários! Seja o Primeiro.