Nos últimos dias, a internet tem sido animada pelo drama em torno de Sam Altman, o (ex-)CEO da OpenAI. O seu despedimento e subsequente regresso ao cargo serviram para evidenciar que o maior problema da Inteligência Artificial (IA) é que dependem dos humanos que a criam. A segurança das IAs, portanto, depende da ética e do código de conduta dos programadores humanos.
No entanto, a situação parece ter voltado a complicar-se. Segundo a agência Reuters, o despedimento de Altman terá sido precipitado por um avanço na IA que poderia “ameaçar a humanidade”. Esta foi a expressão usada pelo conselho de ética da OpenAI, que decidiu afastar Altman.
O início de toda esta controvérsia remonta a uma carta enviada por um grupo de investigadores da OpenAI ao conselho de ética da empresa. Nessa carta, os investigadores alertavam para um descobrimento recente, cuja natureza a empresa optou por não revelar.
O que se sabe é que a OpenAI tem um projeto chamado Q-Star, da qual pouco se conhece. Os investigadores deste projeto foram os autores da carta enviada ao conselho de ética. A pessoa responsável por enviar mensagens internas a alertar os funcionários para não falarem com a imprensa foi Mira Murati, que substituiu Sam Altman durante dois dias e é a antiga CTO da OpenAI.
De acordo com a Reuters, alguns funcionários acreditam que o Q-Star poderia ser um grande avanço na procura pela AGI (Artificial General Intelligence) ou Inteligência Artificial Dura. Este tipo de IA é um sistema completamente autónomo, capaz de substituir completamente os humanos nas tarefas mais economicamente viáveis. O modelo de Q-Star supostamente poderia resolver certos problemas matemáticos, o que dava esperanças sobre a sua viabilidade aos investigadores.
A carta enviada ao conselho de ética, que tinha sido criado com o objetivo de poder despedir Altman caso este perdesse a perspectiva humana e ética do projeto, apontava um dos avanços deste modelo de IA como potencialmente perigoso. Este avanço teria sido o motivo do despedimento de Altman.
A situação em torno de Sam Altman e a OpenAI é um exemplo claro de como a ética e a responsabilidade humana são fundamentais na criação e desenvolvimento da Inteligência Artificial. Na minha opinião, é crucial que as empresas de tecnologia tenham conselhos de ética e mecanismos de controlo para garantir que os avanços na IA sejam feitos de forma segura e responsável.
Fonte: Reuters
