A inteligência artificial avançada (IA) poderia “matar-nos a todos” e deveria ser regulada da mesma forma que as armas nucleares, alertaram os peritos. Os algoritmos sobre-humanos que superam os humanos estão a caminho e podem ser uma ameaça tão grande para os humanos, disseram os investigadores da Universidade de Oxford aos deputados do Parlamento do Reino Unido.
O comité ouviu como a IA avançada poderia assumir o controlo da sua própria programação se aprendesse a alcançar os seus objetivos de uma forma diferente da originalmente pretendida. Disse o estudante de doutoramento Michael Cohen: “Há um risco particular com a IA sobre-humana que é de um tipo diferente, que é o de poder matar toda a gente.
“Se imaginar ir para a floresta para treinar um urso com um saco de guloseimas, retendo e administrando seletivamente guloseimas, dependendo se ele está a fazer o que você gostaria que fizesse, o urso provavelmente pegaria as guloseimas à força.”
“Se tiver algo muito mais inteligente do que nós, monomaníaco, a tentar obter esse feedback positivo, e se for levado a cabo em todo o mundo para o assegurar, ele colocará tanta energia quanto puder para o assegurar, e isso deixar-nos-ia sem energia para nós próprios”. O Sr. Cohen disse que quando o génio estivesse fora da garrafa, seria difícil parar o processo.
“Se tiver algo que seja muito mais inteligente do que nós em todas as áreas, presumivelmente evitará levantar bandeiras vermelhas enquanto ainda podemos puxar a ficha”, acrescentou ele. “Se eu fosse uma IA a tentar fazer algo nefasto, teria o meu código copiado para outra máquina que ninguém conhece”.
IA tão perigosa como as armas nucleares
“Se pudéssemos chegar a um entendimento de que a IA avançada é um perigo tão comparável como as armas nucleares, então talvez pudéssemos chegar a um quadro semelhante para a sua regulamentação”.
Foi dito aos deputados que em algumas áreas, tais como carros sem condutor, a IA não tinha progredido tanto quanto se esperava, mas em outras, tais como a geração de texto, tinha ido muito mais longe do que alguém esperava.
Especialistas disseram que os programadores tinham apenas “arranhado a superfície” do que a IA podia fazer e previram que muitos trabalhos administrativos sistemáticos e tarefas repetitivas seriam em breve automatizados.
Contudo, disseram ser improvável que os campos criativos envolvendo liderança, mentoria ou persuasão fossem alguma vez substituídos pela IA.
Os peritos disseram que era razoável esperar que até ao final do século fosse criada uma IA que pudesse fazer muito mais do que qualquer humano, e apelaram a uma proibição de algoritmos perigosos.
Fonte: Yahoo
