A Comissão Europeia anunciou que está considerando criminalizar imagens geradas por inteligência artificial (IA) e deepfakes que retratam o abuso sexual infantil (CSA) para atualizar as leis em resposta aos avanços tecnológicos.
A proposta inclui a introdução de um novo crime para abuso sexual infantil transmitido ao vivo. Também procura criminalizar a posse e troca de “manuais de pedófilos”. A proposta também menciona chatbots de IA usados para abuso infantil.
A comissão pretende atualizar as regras de 2011 com a proposta, sugerindo alterações à notificação obrigatória de infrações. Estas medidas fazem parte de um pacote mais amplo que visa prevenir o abuso sexual de crianças, aumentar a sensibilização para os riscos em linha, facilitar a denúncia de crimes às vítimas e prestar apoio, incluindo o direito a compensação financeira.
Child sexual abuse is a heinous crime which has evolved significantly over the past years.
Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.
Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy
— European Commission (@EU_Commission) February 6, 2024
A avaliação de impacto da comissão realizada antes da proposta destacou o aumento da presença online e os últimos desenvolvimentos tecnológicos como fatores que criam novas oportunidades para o abuso sexual de crianças. Para abordar os riscos de segurança online para as crianças, a proposta incentiva os Estados-Membros a investirem na sensibilização.
Há preocupações de que a tecnologia seja utilizada indevidamente para criar material de abuso sexual infantil (CSAM), aumentando a preocupação de que este conteúdo artificial possa complicar a identificação de vítimas reais pelas autoridades responsáveis pela aplicação da lei e destacando a necessidade de rever os regulamentos existentes.
No entanto, a forma final das propostas será decidida pelo Parlamento Europeu e pelo Conselho Europeu. Segundo a comissão, ao chegar a um acordo sobre a alteração da atual diretiva de combate à CSA, esta entraria em vigor 20 dias após a publicação no Diário Oficial da UE.
De acordo com o processo legislativo ordinário, quando a Comissão Europeia apresenta uma proposta, o Parlamento Europeu e o Conselho de Ministros podem aprová-la ou alterá-la. Se persistirem divergências, ambos podem propor alterações. Seguem-se as negociações e, após a conclusão, ambas as instituições podem votar a favor ou contra a versão final.
Em maio de 2022, a comissão propôs legislação adicional centrada na obrigação dos serviços digitais de empregar tecnologias automatizadas para detectar e denunciar CSAM e identificar atividades de aliciamento dirigidas a crianças. Segundo a comissão, a proposta atual complementa a proposta de regulamento de 2022.
No entanto, houve um aumento significativo na conscientização sobre os perigos dos deepfakes e das imagens geradas por IA em menos de dois anos desde que a proposta de verificação de mensagens privadas foi introduzida.
