O Conselho Europeu de Proteção de Dados (EDPB) publicou o primeiro relatório de progresso do seu “grupo de trabalho GPT” e as notícias não são boas para o ChatGPT.
Os esforços da OpenAI para alinhar o seu principal modelo de IA, ChatGPT, com as regras da União Europeia, incluindo o abrangente Regulamento Geral de Proteção de Dados (RGPD), foram notados pelo EDPB, mas acabaram por ser considerados insuficientes.
De acordo com o documento EDPB:
“Embora as medidas tomadas para cumprir o princípio da transparência sejam benéficas para evitar interpretações errôneas dos resultados do ChatGPT, elas não são suficientes para cumpri-lo.”
As descobertas surgem no momento em que a OpenAI passou grande parte de 2024 lidando com ordens de interrupção temporária de vários estados membros europeus.
Em janeiro, a agência de proteção de dados da Itália descobriu que o ChatGPT e a OpenAI ainda estavam em conflito com as leis de privacidade de dados da Itália e da UE, apesar de terem sido avisados e posteriormente banidos em março de 2023.
De acordo com o relatório do EDPB, a OpenAI não fez o suficiente desde então para alinhar o ChatGPT com as leis da UE.
A principal reclamação parece ser que o ChatGPT tende a fornecer informações mentirosas e imprecisas.
EDPB declarou:
“Na verdade, devido à natureza probabilística do sistema, a atual abordagem de formação conduz a um modelo que também pode produzir resultados tendenciosos ou inventados. Os resultados fornecidos pelo ChatGPT provavelmente serão considerados fatualmente precisos pelos usuários finais, sejam eles precisos ou não.”
Não está claro no momento exatamente como a OpenAI poderia colocar o ChatGPT em conformidade. O modelo GPT-4, por exemplo, contém bilhões de pontos de dados e cerca de um trilhão de parâmetros. Seria inviável para os seres humanos vasculharem o conjunto de dados para verificar a sua precisão a um nível que permitisse que fosse considerado razoavelmente preciso pelos padrões do GDPR.
Infelizmente para a OpenAI, o EDPB escreveu explicitamente que em particular, a impossibilidade técnica não pode ser invocada para justificar o não cumprimento destes requisitos.
