Um advogado entrou com uma ação judicial contra os proprietários de 16 sites que permitiram que os usuários “nudizassem” mulheres e meninas usando IA.
O escritório do advogado, David Chiu, disse que estava processando os proprietários de 16 dos sites mais visitados que permitem que os usuários dispam pessoas em uma foto para fazer imagens nuas não consensuais de mulheres e meninas.
Uma versão redigida do processo aberto no Tribunal Superior da cidade alega que os proprietários do site incluem indivíduos e empresas de Los Angeles, Novo México, Reino Unido e Estônia que violaram as leis da Califórnia e dos Estados Unidos sobre pornografia deepfake, pornografia de vingança e material de abuso sexual infantil.
Os sites também estão longe de ser desconhecidos. A reclamação alega que eles acumularam 200 milhões de visitas apenas no primeiro semestre do ano.
Um site se gabou de permitir que seus usuários vejam qualquer pessoa nua.
Outro diz:
“Imagine perder tempo levando-a para encontros quando você pode simplesmente usar o site para obter seus nudes.”
Os modelos de IA usados pelos sites são treinados em imagens de pornografia e material de abuso sexual infantil, disse o escritório.
Basicamente, alguém pode enviar uma foto de seu alvo para gerar uma versão realista e pornográfica dele. Alguns sites limitam suas gerações apenas a adultos, mas outros até permitem que imagens de crianças sejam criadas.
O escritório de Chiu disse que as imagens são virtualmente indistinguíveis da coisa real e foram usadas para extorquir, intimidar, ameaçar e humilhar mulheres e meninas, muitas das quais não têm capacidade de controlar as imagens falsas depois que foram criadas.
Em fevereiro, imagens de nudez geradas por IA de alunos do 8º ano — que normalmente têm de 13 a 14 anos — foram compartilhadas por alunos de uma escola de ensino fundamental da Califórnia.
Em junho, a ABC News relatou que a polícia prendeu um adolescente por supostamente circular 50 imagens de alunos do nono ao décimo segundo ano que frequentavam uma escola fora de Melbourne, Austrália.
Chiu disse:
“Esta investigação nos levou aos cantos mais obscuros da internet, e estou absolutamente horrorizado pelas mulheres e meninas que tiveram que suportar essa exploração. Todos nós precisamos fazer a nossa parte para reprimir os maus atores que usam IA para explorar e abusar de pessoas reais, incluindo crianças.”
Chiu disse que a IA tem uma promessa enorme, mas há criminosos que estão explorando a tecnologia. Ele finalizou dizendo:
“Temos que deixar bem claro que isso não é inovação — isso é abuso sexual.”
