Paul Christiano, antigo responsável pelo alinhamento de modelos linguísticos na equipa de segurança da OpenAI, acredita que há 50% de hipóteses de a IA de nível humano ou sobrehumano poder assumir o controlo da humanidade e até aniquilá-la.
Numa entrevista ao podcast Bankless, dedicado a tecnologia, Christiano admite que nesse cenário catastrófico muitos ou a maioria dos seres humanos estariam condenados à morte. A IA pode vir a tornar-se tão poderosa que deixa de servir os interesses dos seus criadores, mesmo que seja desenvolvida para ser neutra.
Christiano deixou a OpenAI para se concentrar em questões teóricas no alinhamento da IA, um subcampo da investigação sobre segurança da IA que pretende garantir que os sistemas de IA estão alinhados com os interesses humanos e os princípios éticos. Atualmente o especialista trabalha numa ONG dedicada a estratégias teóricas de alinhamento da IA.
Elon Musk, um cofundador da OpenAI que cortou relações com a empresa em 2018, foi um dos 1.100 peritos que assinaram uma carta aberta em março a pedir uma pausa de seis meses no desenvolvimento de modelos avançados de IA mais poderosos do que GPT-4, uma atualização para o modelo de IA que alimenta o ChatGPT. Uma das preocupações da carta era que os modelos de IA existentes poderiam estar a abrir caminho para modelos superinteligentes que representam uma ameaça para a civilização.
Os especialistas têm-se dividido quanto à cronologia do desenvolvimento da IGA, com alguns a argumentar que poderá demorar décadas e outros a dizer que poderá nunca ser possível, devido às limitações dos computadores no que respeita à interpretação das experiências de vida.
Estes comentários juntam-se a crescentes preocupações sobre o rápido avanço da inteligência artificial nos últimos meses, com o chamado “padrinho da IA” Geoffrey Hinton a deixar a Google em alerta sobre os perigos da IA.
Fonte: Decrypt
