Investigadores da OpenAI temem avanço que pode ameaçar a humanidade e enviaram carta ao anterior conselho de administração. Terá sido esse processo a originar o despedimento de Sam Altman.
Sam Altman, o ex-presidente da OpenAI, foi readmitido na terça-feira à noite, depois de ter sido demitido na sexta-feira passada. A demissão ocorreu após Altman ter anunciado um avanço técnico na empresa que pode ameaçar a humanidade, segundo a Reuters.
Carta dos investigadores alerta para risco que pode ameaçar a humanidade
Antes da demissão de Altman, alguns investigadores da OpenAI escreveram uma carta à direção alertando para os riscos de um projeto chamado Q*, que seria um grande passo em direção à inteligência artificial geral (AGI). A AGI é definida pela empresa como sistemas autónomos que superam os humanos na maioria das tarefas economicamente viáveis.
Projeto Q* resolveu problemas de matemática
O Q* (Leia QStar) é um sistema de IA que foi capaz de resolver problemas de matemática ao nível da escola primária, usando amplos recursos de computação. Os investigadores estão otimistas com o potencial do Q*, mas também preocupados com as suas implicações éticas e sociais.
Investigadores da OpenAI estavam preocupados com nova descoberta sobre IA antes da demissão do CEO
conquistar a capacidade de fazer contas — com as quais só há uma resposta correcta — implica que a IA teria maiores capacidades de raciocínio, semelhantes às da inteligência humana.
A capacidade de fazer contas, mesmo a um nível básico, é considerado um avanço significativo na IA generativa, que até aqui é boa na escrita e na tradução, onde a resposta à mesma pergunta pode variar. Mas ao nível da matemática so existe uma resposta correta e a IA conseguir acertar implica que tenha maiores capacidades de raciocínio, talvez semelhantes às da inteligência humana. Foi essa capacidade que alertou os investigadores para o desenvolvimento que, consideram, pode ameaçar a humanidade.
O Q* e a carta foram apontados como fatores que contribuíram para a demissão de Altman na sexta-feira.
Nessa missiva, conta a Reuters, os investigadores colocam ainda em causa que a OpenAI esteja a lançar para o mercado produtos ainda não completamente testados.
Mais de 700 funcionários apoiaram Altman
A demissão de Altman foi contestada por mais de 700 dos 770 funcionários da OpenAI, que assinaram uma carta na segunda-feira ameaçando partir para a Microsoft se Altman não fosse reintegrado. Os funcionários consideraram que Altman era um líder visionário e que o avanço técnico era um passo importante para a missão da empresa.
OpenAI reconheceu internamente a existência da carta e do projeto Q*
A Reuters afirma que não tinha analisado uma cópia da carta. E uma pessoa disse ao The Verge que a direção não recebeu tal carta. No entanto, a Reuters refere que, depois de ter contactado a OpenAI, a empresa reconheceu internamente a existência de uma carta para a direção e de um projeto chamado Q*. Um porta-voz da OpenAI disse à agência noticiosa que esta mensagem apenas alertava a equipa para o relatório, não comentando a sua exatidão.
OpenAI é uma empresa de pesquisa em IA sem fins lucrativos
A OpenAI é uma empresa de pesquisa em IA sem fins lucrativos, fundada em 2015 por um grupo de personalidades do mundo da tecnologia, como Elon Musk, Peter Thiel e Reid Hoffman. A empresa tem como objetivo criar e garantir que a IA seja usada para o bem da humanidade, evitando os riscos de uma IA maliciosa ou descontrolada. A empresa tem recebido financiamento de várias fontes, incluindo a Microsoft, que investiu 12 mil milhões de dólares desde 2019.
Outros artigos interessantes:
