Toda a equipe da OpenAI focada nos perigos existenciais da IA renunciou ou foi supostamente absorvida por outros grupos de pesquisa dentro da empresa.
Dias depois de Ilya Sutskever, cientista-chefe da OpenAI e um dos cofundadores da empresa, anunciar sua saída, Jan Leike, o ex-pesquisador da DeepMind que era o outro co-líder da equipe de “Superalignment” da OpenAI, postou que ele também havia renunciado.
Segundo Leike, sua saída da empresa se deveu às preocupações com suas prioridades, que ele considera mais focadas no desenvolvimento de produtos do que na segurança da IA.
AGI é um termo para uma inteligência artificial hipotética que pode ter um desempenho igual ou melhor que os humanos em uma série de tarefas.
Depois de passar três anos na OpenAI, Leike criticou a empresa por priorizar o desenvolvimento de produtos chamativos em vez de nutrir uma cultura e processos robustos de segurança de IA. Ele enfatizou a necessidade urgente de alocação de recursos – especialmente poder computacional – para apoiar a pesquisa vital de segurança da equipe, que ele diz ter sido negligenciada.
“Há algum tempo que discordo da liderança da OpenAI sobre as principais prioridades da empresa, até que finalmente chegamos a um ponto de ruptura. Nos últimos meses, minha equipe navegou contra o vento.”
A OpenAI formou uma nova equipe de pesquisa em julho de 2023 para se preparar para o surgimento de IA avançada que poderia ser mais esperta e dominar seus criadores. Sutskever foi nomeado co-líder desta nova equipe, que recebeu 20% dos recursos computacionais da OpenAI.
Após as recentes demissões, a OpenAI optou por dissolver a equipe “Superalignment” e integrar as suas funções noutros projetos de investigação dentro da organização. Esta decisão é alegadamente uma consequência da reestruturação interna em curso, que foi iniciada em resposta à crise de governação de novembro de 2023.
Sutskever fez parte de um esforço que viu o conselho da OpenAI expulsar brevemente Sam Altman do cargo de CEO em novembro de 2023, antes de ele ser recontratado para o cargo após reação dos funcionários.
De acordo com The Information, Sutskever informou aos funcionários que a decisão do conselho de remover Altman cumpriu sua responsabilidade de garantir que a OpenAI desenvolva AGI que beneficie toda a humanidade. Como um dos seis membros do conselho, Sutskever enfatizou o compromisso do conselho em alinhar os objetivos da OpenAI com o bem maior.
