A presidente da Comissão Federal de Comunicações dos Estados Unidos (FCC), Jessica Rosenworcel, propôs considerar as chamadas com vozes geradas por inteligência artificial (IA) como ilegais, sujeitas às regulamentações e penalidades descritas na Lei de Proteção ao Consumidor Telefônico (TCPA).
O anúncio segue uma mensagem falsa gerada usando IA para imitar a voz do presidente dos EUA, Joe Biden, aconselhando os residentes de New Hampshire a não votarem nas eleições primárias do estado.
As mensagens automatizadas com a voz de Biden foram geradas para interferir nas eleições presidenciais de 2024, mas a procuradoria-geral do estado denunciou as ligações como desinformação.
A proposta de Rosenworcel visa proibir chamadas automáticas sob a TCPA, uma lei de 1991 que regulamenta chamadas políticas e de marketing automatizadas feitas sem o consentimento do destinatário. O principal objetivo da TCPA é proteger os consumidores de comunicações indesejadas e intrusivas, como chamadas de telemarketing não solicitadas e mensagens automatizadas.
Today we announced a proposal to make AI-voice generated robocalls illegal – giving State AGs new tools to crack down on voice cloning scams and protect consumers. https://t.co/OfJUZR0HrG
— The FCC (@FCC) January 31, 2024
O aumento destas chamadas aumentou nos últimos anos, sendo a tecnologia agora capaz de enganar os consumidores, imitando as vozes de celebridades, figuras políticas e até de familiares.
Ao implementar esta proposta, a FCC dotará os procuradores-gerais estaduais em todo o país com recursos adicionais para perseguir os responsáveis por essas ligações automáticas maliciosas e impor consequências legais.
Em novembro de 2023, a FCC iniciou um Aviso de Inquérito para reunir informações sobre como lidar com chamadas automáticas ilegais e o potencial envolvimento da IA. A agência perguntou sobre o papel da IA em fraudes, imitando vozes familiares e se deveria ser regulamentada pela TCPA. Além disso, a FCC buscou insights sobre como a IA pode ser utilizada de forma positiva, como reconhecer e prevenir chamadas automáticas ilegais.
A Casa Branca divulgou um folheto informativo com suas principais ações sobre IA, três meses após a ordem executiva de Biden sobre IA. A ficha informativa observou progresso substancial em direção ao mandato do presidente de proteger os americanos dos riscos potenciais dos sistemas de IA.
Os deepfakes aumentaram as preocupações sobre o conteúdo gerado pela IA, com o Fórum Econômico Mundial a destacar os resultados adversos das tecnologias de IA no seu 19º Relatório de Riscos Globais. O Serviço Canadense de Inteligência de Segurança – a principal agência nacional de inteligência do Canadá – também levantou preocupações sobre as campanhas de desinformação conduzidas na Internet usando deepfakes de IA.
Os legisladores dos Estados Unidos pediram uma legislação que criminalize a produção de imagens deepfake após a ampla circulação de fotos falsas explícitas de Taylor Swift.
