O uso desenfreado da inteligência artificial (IA) no sistema financeiro pode levar a resultados terríveis, disse o autor, filósofo e professor de história ‘Yuval Noah Harari’ numa audiência na Cimeira de Inovação do Banco de Compensações Internacionais (BIS). Harari disse:
“São necessárias instituições fortes para manter a IA sob controle.”
O sistema financeiro cria confiança. Dinheiro, títulos e outros dispositivos financeiros permitem que milhões de estranhos trabalhem juntos em prol de objetivos comuns. Mas nenhum esforço foi feito para tornar a regulamentação financeira compreensível para os humanos.
“Talvez 1% da população entenda como funciona o sistema financeiro. O que acontece quando esse número cai para zero?”
Harari citou a crise financeira de 2007-2008 como resultado de uma inovação financeira incompreensível. Os reguladores não conseguiram compreender os novos produtos financeiros suficientemente bem para os regular.
A IA é uma forma alienígena de inteligência que está apenas no início de sua evolução. Não raciocina como os humanos e poderia facilmente criar dispositivos financeiros que estão além da imaginação humana, transferindo o poder dos políticos e reguladores para os algoritmos. As relações de confiança seriam construídas entre sistemas de IA e não entre pessoas, e numa crise financeira, os políticos e reguladores seriam forçados a confiar na IA.
Essa ruptura nas relações de confiança pode levar à instabilidade social. A confiança nos políticos e nas instituições já está diminuindo.
“Precisamos evitar que a IA se torne completamente insondável. […] Precisamos da capacidade de compreendê-lo e regulá-lo.”
A regulamentação não deve ser deixada a gênios ou líderes carismáticos. Somente as instituições podem manter os humanos informados.
Mesmo assim, existem perigos. As inovações que mudam o mundo muitas vezes só são bem-sucedidas após uma série de tentativas fracassadas de usá-las. Harari descreveu o imperialismo, o comunismo e o nazismo como tentativas fracassadas de construir sociedades industrializadas – com dezenas de milhões de vítimas. Enquanto isso, a IA é capaz de ter ideias sobre como usar a si mesma.
Harari disse que os reguladores precisam de se concentrar na construção de mais confiança entre as pessoas para garantir que o futuro sistema financeiro seja estável e amigo do ser humano.
