O cofundador da Ethereum, Vitalik Buterin, compartilhou sua opinião sobre inteligência artificial “superinteligente”, chamando-a de arriscada em resposta às mudanças contínuas de liderança na OpenAI.
Recentemente, o ex-chefe de alinhamento da OpenAI, Jan Leike, renunciou após dizer que havia atingido um ponto de ruptura com a administração nas principais prioridades da empresa.
Leike alegou:
“A cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes na OpenAI, tudo aponta para desenvolvimentos em torno da inteligência artificial geral (AGI).”
Prevê-se que a AGI seja um tipo de IA igual ou superior às capacidades cognitivas humanas – ideia que já começou a preocupar os especialistas da indústria, que afirmam que o mundo não está devidamente equipado para gerir tais sistemas de IA superinteligentes.
Este sentimento parece estar alinhado com as opiniões de Buterin. Em uma postagem, ele compartilhou sua opinião sobre o assunto, enfatizando que as pessoas não devem agir precipitadamente ou reagir contra quem tenta.
Buterin enfatizou os modelos abertos que funcionam em hardware de consumo como uma proteção contra um futuro onde um pequeno conglomerado de empresas seria capaz de ler e mediar a maior parte do pensamento humano.
“Esses modelos também são muito mais baixos em termos de risco de destruição do que a megalomania corporativa e militar.”
Este é seu segundo comentário na semana passada sobre IA e suas capacidades crescentes.
Buterin argumentou que o modelo GPT-4 da OpenAI passou no teste de Turing, que determina a humanidade de um modelo de IA. Ele citou uma nova pesquisa que afirma que a maioria dos humanos não consegue determinar quando está falando com uma máquina.
No entanto, Buterin não é o primeiro a expressar esta preocupação.
O governo do Reino Unido também examinou recentemente o crescente envolvimento das BigTechs no setor da IA, levantando questões relacionadas com a concorrência e o domínio do mercado.
Grupos como o 6079 já estão surgindo na Internet, defendendo a IA descentralizada para garantir que esta permaneça mais democratizada e não dominada pelas BigTechs.
Isto segue a saída de outro membro sênior da equipe de liderança da OpenAI, quando Ilya Sutskever, cofundador e cientista-chefe, anunciou sua renúncia.
