A empresa de análise de mídia social, Graphika, afirmou que o uso de nudez deepfake por IA está aumentando. Essa prática envolve a utilização de ferramentas generativas de inteligência artificial (IA) ajustadas com precisão para eliminar roupas das imagens fornecidas pelos usuários.
De acordo com seu relatório, o Graphika mediu o número de comentários e postagens no Reddit e X (antigo Twitter) contendo links de referência para 34 sites e 52 canais do Telegram que fornecem serviços sintéticos de imagens íntimas não consensuais (NCII), com 1.280 em 2022 em comparação com mais de 32.100 até agora em 2023 – um aumento de 2.408% no volume ano a ano.
O NCII sintético envolve frequentemente a geração de conteúdo explícito sem o consentimento dos indivíduos retratados.
Graphika afirma que essas ferramentas de IA tornam a geração de conteúdo explícito realista em escala mais fácil e econômica para muitos provedores.
Sem esses provedores, os clientes enfrentariam o fardo de gerenciar seus modelos personalizados de difusão de imagens, o que é demorado e potencialmente caro.
Graphika alerta que o uso crescente de ferramentas de IA para despir pode levar à criação de conteúdo explícito falso e contribuir para questões como assédio direcionado, sextorção e produção de material de abuso sexual infantil (CSAM).
Embora as IAs de despir normalmente se concentrem em imagens, a IA também tem sido usada para criar vídeos deepfakes usando a imagem de celebridades, incluindo a personalidade do YouTube, Sr. Beast, e o ator de Hollywood, Tom Hanks.
Num relatório, a empresa de vigilância da Internet com sede no Reino Unido, Internet Watch Foundation (IWF), observou que encontrou mais de 20.254 imagens de abuso infantil num único fórum da dark web em apenas um mês. A IWF alertou que a pornografia infantil gerada por IA poderia sobrecarregar a Internet.
Devido aos avanços nas imagens generativas de IA, a IWF adverte que distinguir entre pornografia deepfake e imagens autênticas tornou-se mais desafiador.
As Nações Unidas classificaram os meios de comunicação social gerados pela IA como uma ameaça séria e urgente à integridade da informação, especialmente nas redes sociais.
