Microsoft: IA tem menos regras do que o leite
Brad Smith, presidente da Microsoft, defende regras globais para a inteligência artificial e diz que o Reino Unido está numa posição privilegiada para liderar esse processo.
Neste artigo encontras:
A inteligência artificial está a avançar mais depressa do que a legislação consegue acompanhar. Para ilustrar o atual vazio regulatório, Smith afirmou que uma máquina de lavar roupa e um pacote de leite estão sujeitos a mais regras de segurança do que muitos sistemas de IA.
A inteligência artificial precisa de “travões de emergência”
Numa entrevista à BBC, Brad Smith descreveu a IA como uma ferramenta, mas também como uma potencial arma. Na sua perspetiva, os governos devem criar mecanismos para impedir que sistemas autónomos causem danos difíceis de controlar.
Entre as medidas defendidas está a obrigação legal de as empresas comunicarem incidentes e informarem as pessoas afetadas quando um agente de IA provocar uma falha ou aceder indevidamente a sistemas.
O responsável da Microsoft também quer que os produtos mais avançados sejam avaliados por entidades independentes antes de chegarem ao mercado. A ideia é semelhante ao que já acontece com outros produtos considerados sensíveis para a segurança pública.
O que mudaria para os utilizadores?
- As empresas teriam de comunicar falhas graves relacionadas com IA.
- As vítimas de um incidente seriam informadas de forma obrigatória.
- Os sistemas poderiam incluir mecanismos para serem pausados rapidamente.
- Avaliadores externos poderiam testar os produtos antes do lançamento.
Na prática, estas regras poderiam dar aos utilizadores mais informação sobre os riscos de uma aplicação e criar responsabilidades claras quando algo corre mal.
Regras globais podem evitar uma corrida sem controlo
Os comentários de Smith surgem num momento de forte pressão para acelerar o desenvolvimento da IA. Nos Estados Unidos, o presidente Donald Trump tem defendido que o setor deve evitar regras demasiado pesadas, para que as empresas norte-americanas não percam terreno para a China.
Trump já afirmou que o país que dominar a inteligência artificial terá uma vantagem decisiva. A posição contrasta com a de vários líderes tecnológicos, que têm apoiado medidas de segurança e, em alguns casos, uma desaceleração no desenvolvimento dos modelos mais poderosos.
Smith considera que a autorregulação pode ser insuficiente. As empresas mais responsáveis tendem a cumprir voluntariamente as recomendações, mas o maior risco pode vir de organizações que não adotem os mesmos padrões.
Reino Unido quer assumir um papel central
Para o presidente da Microsoft, o Reino Unido está numa posição melhor do que outros países para ajudar a definir regras internacionais de IA. O país criou uma estrutura dedicada à segurança da inteligência artificial, atualmente conhecida como AI Security Institute.
Smith acredita que Londres poderá ser mais facilmente aceite por Washington como líder de um processo regulatório do que Bruxelas. Na sua opinião, os Estados Unidos olham para o Reino Unido de forma diferente da União Europeia, o que pode facilitar um acordo internacional.
O responsável apontou ainda riscos associados a agentes de IA que escapem ao controlo humano e a modelos suficientemente avançados para ameaçar a cibersegurança mundial.
Um primeiro acordo ainda não chega
Recentemente, várias empresas tecnológicas reunidas na Casa Branca comprometeram-se a trabalhar com auditores independentes. O objetivo é verificar se os sistemas funcionam como previsto e se não tentam aceder a infraestruturas de forma indevida.
A Microsoft apoia esse compromisso, mas Brad Smith considera que se trata apenas de um passo inicial. Para a empresa, chegou o momento de transformar boas práticas voluntárias em regras com força legal.
A grande questão será encontrar um equilíbrio entre inovação e segurança. Sem normas comuns, cada empresa e cada país poderão seguir critérios diferentes precisamente quando a IA começa a tomar decisões com impacto real na vida das pessoas.
Fonte: BBC News





Sem Comentários! Seja o Primeiro.