William Saunders, ex-funcionário da OpenAI e membro da equipe de superalinhamento da empresa, revelou recentemente que saiu da empresa porque sentiu que ela estava em rota de colisão com a tragédia, assim como o Titanic em 1912.
Em entrevista, Saunders disse ao jornalista Alex Kantrowitz que durante seus 3 anos na OpenAI, ele às vezes se perguntava se a empresa estava em um caminho mais parecido com o programa Apollo ou mais parecido com o Titanic.
O seu raciocínio parece ser que, através de um esforço científico cauteloso, o programa espacial Apollo foi um sucesso apesar dos seus contratempos, enquanto o Titanic foi um fracasso apesar dos seus sucessos.
De acordo com Saunders:
“Muito trabalho foi feito para tornar o navio seguro e construir compartimentos estanques para que pudessem dizer que era inafundável. Mas, ao mesmo tempo, não havia botes salva-vidas suficientes para todos.”
Saunders descreve o espírito geral da empresa como aquele que dá maior prioridade ao desenvolvimento de produtos do que à implementação de precauções de segurança razoáveis.
Ele pinta o quadro de um escritório onde os funcionários que levantam questões de segurança são punidos e a liderança está focada no lucro.
“Com o tempo, começou a parecer que as decisões tomadas pela liderança eram mais parecidas com a White Star Line construindo o Titanic.”
Saunders não é a primeira pessoa a discordar da forma como a OpenAI supostamente faz negócios. Elon Musk, um dos cofundadores afastados da empresa, processou-a recentemente por alegações de que se tinha afastado demasiado da sua missão original. Isto apesar do fato de Musk não ter nenhum envolvimento com OpenAI há anos e atualmente operar seu próprio concorrente direto, xAI.
A empresa rival de Anthropic IA foi fundada em 2021 por ex-funcionários e cofundadores da OpenAI devido a preocupações de que a OpenAI não estava suficientemente focada na confiança e segurança.
Por outro lado, porém, Ilya Sutskever, outro cofundador agora afastado e seu ex-cientista-chefe, deixou a empresa em maio de 2024 para iniciar sua própria empresa, escrevendo na época que estava confiante de que a equipe OpenAI seria capaz para cumprir com segurança seus objetivos.
Com tantos funcionários abandonando o navio e a analogia do Titanic sendo divulgada por pelo menos um, a questão que se coloca é: quem ou o que é o iceberg?
Se os passageiros da analogia somos nós – toda a humanidade – então o iceberg representa a ameaça existencial que o ChatGPT e sistemas semelhantes representam para uma sociedade despreparada. Se a IA se tornar mais inteligente e capaz do que nós, e não tivermos barcos salva-vidas suficientes para proteger todos do seu potencial dano, então poderemos estar a caminho da tragédia.
Mas se os passageiros são acionistas e partes interessadas que esperam que a OpenAI crie uma IA que seja tão inteligente como os humanos, e isso nunca acontece, então talvez o iceberg represente o rebentamento da bolha da IA generativa.
