Um grupo de 34 estados dos Estados Unidos está entrando com uma ação judicial contra a proprietária do Facebook e do Instagram, Meta, acusando a empresa de praticar manipulação indevida de menores que utilizam as plataformas. Este desenvolvimento ocorre em meio a rápidos avanços na inteligência artificial (IA) envolvendo texto e IA generativa.
Representantes legais de vários estados, incluindo Califórnia, Nova York, Ohio, Dakota do Sul, Virgínia e Louisiana, alegam que Meta utiliza seus algoritmos para promover comportamento viciante e impactar negativamente o bem-estar mental das crianças por meio de recursos no aplicativo, como o botão “Curtir”.
Os litigantes do governo estão prosseguindo com ações legais, apesar do cientista-chefe de IA da Meta ter se pronunciado recentemente, supostamente dizendo que as preocupações sobre os riscos existenciais da tecnologia ainda são prematuras, e a Meta já aproveitou a IA para resolver questões de confiança e segurança em seus plataformas.
Os advogados dos estados estão buscando diferentes danos, restituições e compensações para cada estado mencionado no documento, com valores que variam de US$5.000 a US$25.000 por suposta ocorrência.
Entretanto, a Internet Watch Foundation (IWF), sediada no Reino Unido, levantou preocupações sobre a alarmante proliferação de material de abuso sexual infantil (CSAM) gerado por IA. Num relatório recente, a IWF revelou a descoberta de mais de 20.254 imagens CSAM geradas por IA num único fórum da dark web em apenas um mês, alertando que este aumento de conteúdos perturbadores tem o potencial de inundar a Internet.
A organização apelou à cooperação global para combater a questão do CSAM, sugerindo uma estratégia multifacetada, incluindo ajustes às leis existentes, melhorias na educação para a aplicação da lei e implementação de supervisão regulamentar para modelos de IA.
Em relação aos desenvolvedores de IA, a IWF aconselha proibir a IA de gerar conteúdo de abuso infantil, excluindo modelos associados e concentrando-se na remoção desse material de seus modelos.
O avanço dos geradores de imagens de IA melhorou significativamente a criação de réplicas humanas realistas. Plataformas como Midjourney, Runway, Stable Diffusion e OpenAI’s Dall-E são exemplos populares de ferramentas capazes de gerar imagens realistas.
