O cofundador da Ethereum, Vitalik Buterin, alertou os desenvolvedores para ter cuidado ao fundir inteligência artificial (IA) com tecnologia blockchain.
Em uma postagem no blog, Buterin categorizou suas preocupações mais urgentes com IA, dizendo aos desenvolvedores que vale a pena agir com cuidado, especialmente ao implantar novos aplicativos em contextos de alto valor e alto risco.
“É importante ter cuidado: se alguém constrói, por ex. um mercado de previsão ou uma moeda estável que usa um oráculo de IA, e acontece que o oráculo é atacável, é uma enorme quantidade de dinheiro que pode desaparecer em um instante.”
Buterin explicou que uma área onde a IA tem maior viabilidade é permitir que a IA participe em mecanismos como mercados de previsão numa microescala que seria inviável para os humanos.
A IA também poderia ser usada em interfaces de carteiras criptografadas para usuários, ajudando-os a entender e interagir com segurança com criptomoedas, explicando transações e assinaturas ou detectando fraudes, escreveu Buterin.
“Minha opinião é que as interfaces de IA pura são provavelmente muito arriscadas no momento, pois aumentam o risco de outros tipos de erros, mas a IA complementando uma interface mais convencional está se tornando muito viável.”
The promise and challenges of crypto + AI applications:https://t.co/ds9mLnshLU
— vitalik.eth (@VitalikButerin) January 30, 2024
Na opinião de Buterin, o esforço mais arriscado seria aproveitar a IA para fazer cumprir as regras ou a governação dos sistemas criptográficos, uma vez que os modelos de IA de código aberto podem ser vulneráveis a ataques adversários.
A IA de código aberto é mais vulnerável a ataques adversários, pois atores mal-intencionados podem inspecionar seu código e otimizar ataques contra ele. A IA de código fechado oferece segurança através da obscuridade, no entanto, esses modelos não oferecem transparência sobre como funcionam ou garantias de que são imparciais, disse ele.
A startup de criptomoedas adjacente ao OpenAI, Worldcoin, é um exemplo de IA de código fechado, com Buterin explicando:
“Ela se baseia em não permitir que ninguém simplesmente ligue para o modelo de IA e, em vez disso, usa hardware confiável.”
Buterin explicou que o maior desafio seria a criação de uma IA descentralizada usando criptomoedas e blockchain que outras aplicações pudessem aproveitar.
“Os mais desafiadores de acertar são os aplicativos que tentam usar blockchains e técnicas criptográficas para criar um “singleton”: uma única IA confiável e descentralizada na qual alguns aplicativos confiariam para algum propósito. Essas aplicações são promissoras tanto em termos de funcionalidade quanto de melhoria da segurança da IA de uma forma que evite os riscos de centralização associados a abordagens mais convencionais para esse problema.”
Ele concluiu que também existem muitas maneiras pelas quais as suposições subjacentes podem falhar.
