A União Europeia (UE) está a trabalhar num conjunto de novas medidas para regulamentar de modo mais rigoroso a inteligência artificial (IA), que irão proibir casos perigosos, como a utilização em massa de reconhecimento facial, bem como algoritmos de policiamento preditivo.
A lei em questão é um novo rascunho da Lei de IA da UE, que foi aprovada hoje por dois comitês principais: o Comitê do Mercado Interno e o Comitê das Liberdades Civis. Esses comitês são compostos por MPEs (membros do Parlamento Europeu) que foram encarregados de supervisionar o desenvolvimento da legislação. Eles aprovaram o projeto final com 84 votos a favor, sete contra e 12 abstenções. A lei incluiu modificações de última hora devido ao interesse em ‘IA generativa’.
Esta nova lei será, sem dúvida, uma importante conquista para a UE, bem como para todos aqueles que acreditam que a IA deve ser usada de maneira responsável e cumprir com os valores e os princípios fundamentais consagrados na lei.
“São notícias extremamente boas”, disse Daniel Leufer, analista sênior de políticas da organização sem fins lucrativos Access Now. “Acho que foram feitas grandes mudanças no texto.”
“É globalmente significativo”, disse Sarah Chander, consultora sênior de políticas do grupo de defesa digital European Digital Rights. “Nunca o braço democrático de um bloco regional como a UE deu um passo tão significativo na proibição do uso de tecnologia do ponto de vista dos direitos humanos.”
A legislação produzirá um impacto significativo, especialmente porque proibirá algumas aplicações de IA que têm sido amplamente criticadas. A utilização em massa de reconhecimento facial, por exemplo, tem sido denunciada por organizações de defesa dos direitos civis. Uma vez que o reconhecimento facial é uma tecnologia altamente intrusiva e pode ser usada para identificar, rastrear, monitorizar e discriminar pessoas, especialmente aqueles que pertencem a minorias.
Como sugere Chander, é provável que essas leis afetem países ao redor do mundo. A UE é um mercado tão significativo que as empresas de tecnologia geralmente cumprem a regulamentação específica da UE em escala global, a fim de reduzir o atrito de manter vários conjuntos de padrões.
As principais mudanças na lei aprovada hoje são uma série de proibições do que o Parlamento Europeu descreve como “usos intrusivos e discriminatórios de sistemas de IA”. De acordo com o Parlamento, as proibições – expandidas de uma lista original de quatro – afetam os seguintes casos de uso:
- Sistemas de identificação biométrica remota “em tempo real” em espaços de acesso público;
- Sistemas de identificação biométrica “pós” à distância, com exceção apenas da aplicação da lei para a persecução de crimes graves e apenas mediante autorização judicial;
- Sistemas de categorização biométrica usando características sensíveis (por exemplo, gênero, raça, etnia, status de cidadania, religião, orientação política);
- Sistemas de policiamento preditivo (com base em perfis, localização ou comportamento criminoso passado);
- Sistemas de reconhecimento de emoções em aplicação da lei, gestão de fronteiras, locais de trabalho e instituições educacionais;
- Limpeza indiscriminada de dados biométricos de mídias sociais ou imagens de CFTV para criar bancos de dados de reconhecimento facial (violando os direitos humanos e o direito à privacidade).
Outra disposição importante no projeto de lei de IA é a criação de um banco de dados de sistemas de IA de uso geral e de alto risco para explicar onde, quando e como eles estão a ser implantados na UE.
“Esta base de dados deve ser livre e publicamente acessível, facilmente compreensível e legível pela máquina”, diz o rascunho. “O banco de dados também deve ser amigável e facilmente navegável, com funcionalidades de pesquisa, no mínimo, permitindo que o público em geral pesquise no banco de dados sistemas específicos de alto risco, locais, categorias de risco e palavras-chave.”
Após os trílogos, o AI Act precisará ser aprovado antes da primavera de 2024 uma reviravolta apertada para uma legislação tão grande.
Fonte: The Verge
