Proposta dos ´Princípios de Confiança Pública na Inteligência Artificial´

Red Magic 3S

Na mesma semana do evento anual CES2020, e num projeto de memorando [PDF] lançado na terça-feira, o governo Norte Americano apresentou a sua visão de como a regulamentação da IA deve ser desenvolvida, referindo que as agências federais devem ter um “light-touch” e não ter “um padrão tão alto” ao avaliar a inovação na IA , o seu crescimento e os seus efeitos sobre a sociedade.

O plano recém-proposto significa uma notável inversão de marcha da posição da Casa Branca há menos de dois anos, quando elementos que trabalham na administração Trump disseram que não havia intenção de criar uma estratégia nacional de IA. Em vez disso, o governo argumentou que minimizar a interferência do governo era a melhor maneira de ajudar a tecnologia a florescer.

Os princípios, divulgados pelo Escritório de Política de Ciência e Tecnologia da Casa Branca (OSTP), têm três objetivos principais: garantir o compromisso público, limitar o exagero regulatório e, mais importante, promover a IA confiável e que seja justa, transparente e segura. Aqueles são intencionalmente e amplamente definidos, referiu a vice-diretora de tecnologia Lynne Parker , durante um briefing à imprensa, para permitir que cada agência possa criar regulamentos mais específicos e adaptados ao seu setor.

“Quando a IA implica risco, as agências devem considerar os benefícios e os custos potenciais da sua utilização, quando comparados aos sistemas para que a IA foi projetada, e para os complementar ou substituir”, escreveu o governo. O governo dos EUA propõe 10 princípios, que vão desde a construção da confiança pública na IA até à garantia de que os civis possam participar no processo de elaboração de regras da IA. Ao mesmo tempo, o governo dos EUA instou outras nações a evitar abordagens pesadas para regular a IA, pois quer ser o ´definidor à mesa´, de como as políticas de IA são moldadas. “A Europa e os nossos outros parceiros internacionais devem adoptar princípios regulamentares semelhantes e que abracem e moldem a inovação, e fazê-lo de uma forma coerente com os princípios que a todos nos são caros.”

Uma experiência de usuário ruim pode prejudicar a reputação da sua empresa, impedir o crescimento dos negócios e até mesmo levar ao fracasso. É por isso que é tão importante trabalhar com um talentoso especialista em UX que pode garantir que seu site e aplicativos sejam visualmente atraentes. A outro nível, alguns governos estão a cooperar com as empresas na implementação da sua tecnologia de IA ao serviço do estado de vigilância, onde monitoram e aprisionam dissidentes, ativistas e minorias, como o tratamento de Pequim aos Uyghurs muçulmanos. A melhor maneira de combater essa abordagem distópica é garantir que a América e os seus aliados continuem a ser os principais centros globais de inovação em IA,” escreveu o diretor de tecnologia dos Estados Unidos Michael Kratsios, num editorial na quarta-feira.

Os princípios são:

– Confiança do público na IA. O governo deve promover aplicativos confiáveis, robustos e confiáveis de IA.
– Participação pública. O público deve ter a oportunidade de fornecer feedback em todas as fases do processo de elaboração de regras.
– Integridade científica e qualidade da informação. As decisões políticas devem basear-se na ciência.
– Avaliação e gestão de riscos. As agências devem decidir quais os riscos e os que não são aceitáveis.
– Benefícios e custos. As agências devem ponderar os impactos sociais de todos os regulamentos propostos.
– Flexibilidade. Qualquer abordagem deve ser capaz de se adaptar a mudanças rápidas e atualizações para aplicativos de IA.
– Justiça e não discriminação. As agências devem garantir que os sistemas de IA não discriminem ilegalmente.
– Divulgação e transparência. O público só confiará em IA se souber quando e como esta está a ser usada.
– Segurança. As agências devem manter todos os dados usados pelos sistemas de IA seguros e protegidos.
– Coordenação interagências. As agências devem conversar entre si para serem consistentes e previsíveis nas políticas relacionadas à IA.

O Grupo de Peritos de Alto Nível da Comissão Europeia em Inteligência Artificial emitiu no ano passado um conjunto de orientações éticas. Estas orientações estão atualmente a ser analisadas pelos dirigentes da UE. Embora os EUA tenha chamado outras nações a adotar seus princípios de IA, os próprios EUA até agora rejeitaram ofertas para participar de várias iniciativas globais de IA, como a Parceria Global em IA, apesar de ter sido apoiada por todas as outras nações do G7.

A Casa Branca abriu os princípios de IA para um período de 90 dias de consulta pública, que será seguido por agências federais com 180 dias para elaborar planos para a implementação desses princípios. “Ao trabalharmos juntos, vamos moldar as políticas que orientam a forma como a IA é desenvolvida e implantada para que todas as pessoas e comunidades possam desfrutar dos benefícios e oportunidades que ela oferece,” Kratsios disse. “Os princípios regulatórios de IA dos EUA fornecem orientação oficial e reduzem a incerteza para os inovadores sobre como o seu próprio governo está a abordar a regulamentação das tecnologias de inteligência artificial”, disse o CTO dos EUA Michael Kratsios. Isso estimulará ainda mais a inovação, acrescentou, permitindo que os EUA moldem o futuro da tecnologia globalmente e contrariam as influências de regimes autoritários.

Há uma série de maneiras de esta medida resultar. Bem feito, incentivaria as agências a contratar mais pessoal com conhecimentos técnicos, criar definições e padrões para uma IA confiável e levar a uma regulamentação mais ponderada em geral. Feito de má forma, poderia dar às agências incentivos para contornar os requisitos ou colocar obstáculos burocráticos aos regulamentos necessários para garantir a IA confiável. Na prática, as agências federais serão agora obrigadas a apresentar um memorando à OSTP para explicar como qualquer regulamentação proposta relacionada à IA satisfaz os princípios. Embora a OSTP não tenha autoridade para vetar regulamentos, o procedimento ainda pode fornecer a pressão e coordenação necessárias para manter um determinado padrão. “A OSTP está a tentar criar uma peneira regulatória”, diz R. David Edelman, diretor do Projeto de Tecnologia, Economia e Segurança Nacional do MIT.

“Um processo como este parece ser uma tentativa muito razoável de construir algum controle de qualidade em nossa política de IA.” Edelman está otimista. “O facto de a Casa Branca apontar a IA confiável como meta é muito importante”, diz ele. “Envia uma mensagem importante para as agências”

Fonte: MIT Technology Review

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here