Um grupo de legisladores dos Estados Unidos, liderado pelo representante Adam Schiff, deu ao CEO da Alphabet/Google, Sundar Pichai, um prazo para concordar com uma demanda por informações relacionadas ao recurso “AI Overview” da empresa.
AI Overview é uma janela de resumo apresentada na parte superior das páginas do Google quando um usuário faz uma consulta. Geralmente contém uma resposta curta em texto, uma imagem, se relevante, e links de apoio.
De acordo com o escritório de Schiff, citando vários relatórios, a AI Overview tende a produzir informações incorretas e/ou potencialmente perigosas.
A denúncia, publicada pelo gabinete de Schiff e co-assinada por outros quatro congressistas, solicita respostas a 11 questões sobre o recurso relacionadas aos esforços da empresa para garantir maior precisão e segurança.
Alguns dos problemas com a AI Overview decorrem de sua aparente incapacidade de determinar se uma determinada fonte é uma sátira ou não.
Schiff e os outros membros do congresso disseram:
“O recurso AI Overviews do Google dizia aos usuários para comerem pelo menos uma pedra por dia para obter vitaminas e minerais. A IA estava citando o site de notícias satíricas “The Onion”.”
Em outros casos, como quando os utilizadores começaram a relatar que a AI Overview afirmava que Barack Obama foi o primeiro presidente muçulmano dos EUA, o sistema de IA citou diretamente teorias de conspiração desmascaradas.
A carta de Schiff reconheceu os esforços contínuos do Google para combater a desinformação, mas afirmou que é preciso fazer mais:
“Agradecemos os esforços do Google para corrigir esses erros, melhorando o recurso por meio de testes contínuos, removendo respostas que violam as políticas de conteúdo da empresa e rotulando as respostas geradas por IA como experimentais. No entanto, é preciso fazer mais para garantir adequadamente que o Google possa continuar a ser uma fonte confiável e confiável de informações para os americanos.”
No momento, não há consenso científico de que esses tipos de problemas possam realmente ser resolvidos. A essência do problema é que a IA não “pensa” nem “raciocina”, apesar de ambos os termos serem comumente usados no marketing de produtos de IA.
Os sistemas de IA generativos imitam a fala humana, mas não têm a capacidade de compreender o contexto ou de aplicar a experiência adquirida a uma situação.
Esses problemas são pendentes há muito tempo no campo e foram notados nos primeiros modelos de linguagem de grande porte, como o GPT-2 da OpenAI e o agora extinto sistema “Galactica” da Meta, que foi retirado do ar após apenas três dias devido à reação criada por seu lançamento.
Para compreender melhor os esforços do Google, Schiff e seus colegas legisladores exigiram que Pichai e o Google respondessem a lista de 11 perguntas. Isso inclui consultas sobre os procedimentos de classificação da empresa, verificação automatizada de fatos, precisão, fornecimento, transparência e como ela está trabalhando com as autoridades para garantir a segurança.
