Durante o ano passado, não faltaram cientistas, CEOs de tecnologia, bilionários e legisladores que soaram o alarme sobre a inteligência artificial (IA) – e agora, até o Papa quer falar sobre isso também.
Numa robusta carta de 3.412 palavras, o Papa Francisco – o chefe da Igreja Católica – alertou sobre os perigos potenciais da IA para a humanidade e o que precisa ser feito para controlá-la. A carta chegou no momento em que a Igreja Católica Romana se prepara para celebrar o Dia Mundial da Paz em 1º de janeiro de 2024.
O Papa Francisco quer ver um tratado internacional para regular a IA para garantir que seja desenvolvida e utilizada de forma ética — caso contrário, corremos o risco de cair na espiral de uma “ditadura tecnológica”.
“Exorto a comunidade global de nações a trabalhar em conjunto, a fim de adotar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas diversas formas.”
A ameaça da IA surge quando os desenvolvedores têm um desejo de lucro ou sede de poder que supera o desejo de existir livre e pacificamente, explicou o Papa.
“A dignidade inerente a cada ser humano […] deve sustentar o desenvolvimento de novas tecnologias e servir como critérios indiscutíveis para avaliá-las […] para que o progresso digital possa ocorrer com o devido respeito pela justiça e contribuir para a causa da paz. As tecnologias que não conseguem fazer isso agravam as desigualdades e os conflitos e, portanto, nunca poderão ser consideradas um verdadeiro progresso.”
Entretanto, o surgimento de notícias falsas geradas pela IA é um problema sério, acrescentou o Papa, o que pode levar a uma crescente desconfiança nos meios de comunicação social.
O Papa foi recentemente vítima de IA generativa quando uma imagem falsa dele vestindo uma luxuosa jaqueta branca se tornou viral em março.
O Papa Francisco, no entanto, também reconheceu os benefícios da IA ao permitir uma produção mais eficiente, transportes mais fáceis e mercados mais preparados, bem como uma revolução nos processos de acumulação, organização e confirmação de dados.
Mas ele também está preocupado com o fato de a IA beneficiar aqueles que a controlam e deixar uma grande parte da população sem emprego para pagar a vida:
“Existe o risco substancial de benefícios desproporcionais para poucos, ao preço do empobrecimento de muitos.”
O Papa Francisco há muito que alerta sobre o uso indevido das tecnologias emergentes, afirmando:
“Tanto os princípios morais teóricos como os práticos precisam de ser incorporados nelas.”
Ele é, no entanto, frequentemente visto como mais experiente em tecnologia e voltado para o futuro do que seus antecessores. As recentes observações do Papa Francisco ocorrem após um ano de protestos de todos os cantos do mundo sobre os perigos potenciais da IA.
Os líderes tecnológicos, como o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak, expressaram preocupação com a rapidez com que a IA está a avançar. Isso levou eles e mais de 2.600 líderes tecnológicos e pesquisadores a assinarem uma petição para interromper os desenvolvimentos de IA em março de 2023, compartilhando preocupações de que uma IA mais avançada do que GPT-4 pode representar riscos profundos para a sociedade e a humanidade.
O presidente dos Estados Unidos, Joe Biden, também expressou preocupação. A sua administração emitiu uma ordem executiva sobre o desenvolvimento e utilização seguros e fiáveis da inteligência artificial no final de Outubro para abordar os riscos representados pela IA.
Até mesmo cineastas e celebridades de Hollywood estão acrescentando suas ideias ao assunto. Em julho, o cineasta canadense James Cameron teria dito que vinha alertando sobre os perigos da IA desde ‘O Exterminador do Futuro’, que dirigiu há quase 40 anos. Cameron disse:
“Eu avisei vocês em 1984 e vocês não ouviram.”
The Terminator (1984)
Directed by James Cameron pic.twitter.com/dNBv6fO8fh— Monica Mc Callion (@CallionMonica) October 31, 2023
“Acho que o armamento da IA é o maior perigo […] Acho que entraremos no equivalente a uma corrida armamentista nuclear com a IA, e se não a construirmos, os outros certamente irão construa-o e então a situação aumentará.”
