A ascensão da inteligência artificial introduziu novas possibilidades de expressão humana e capacidades para criar conteúdo. Simultaneamente, a capacidade de fazer quase tudo e fazê-lo com uma identidade digital gerada por IA causou novos problemas para solucionar.
De acordo com dados da Sumsub, a parcela de fraudes decorrentes de deep fakes mais que dobrou entre 2022 e o primeiro trimestre de 2023, com os Estados Unidos registrando até um aumento de 0,2% para 2,6%.
Nos últimos meses, houve vários casos de celebridades como os atores Tom Hanks e Jennifer Aniston e a personalidade do YouTube, Mr. Beast, denunciando falsificações profundas que usavam suas falsificações digitais para vender produtos.
Em resposta à situação, a Hollo.AI, com sede na Califórnia, foi lançada. A plataforma permite que os usuários reivindiquem sua identidade de IA, ou “persona”, e apresenta um chatbot personalizado para ajudar os usuários a monetizar e verificar seu trabalho de IA.
Hollo.AI afirma que esse uso ético da IA é possível através da verificação da tecnologia blockchain. Rex Wong, CEO da plataforma, disse que criadores e personalidades poderão assumir propriedade de sua IA por meio do registro de IA verificado da plataforma.
“O registro serve como um livro-razão público que oferece identidades de IA, uma vez verificadas pela Hollo.AI, para serem registradas no blockchain para que todos possam ver.”
Os criadores receberão uma marca de seleção azul para identidades verificadas, o que lhes dará controle sobre quando, onde e como essa identidade pode ser usada. Eles podem então obter receitas através de qualquer licenciamento dessa identidade.
Wong disse que os serviços funcionam de forma semelhante à proteção contra roubo de identidade de crédito, mas são adaptados para proteger as identidades de IA.
“Eles monitoram e alertam os usuários sobre usos não autorizados de suas personas digitais, ajudando a prevenir a propagação e o impacto de falsificações profundas.”
Além de monitorar usos não autorizados, Wong elaborou que Hollo.AI pretende ajudar os usuários após tal uso ser detectado para auxiliar na resolução de casos de fraude.
Ele disse que a segurança nesta área é crucial numa época em que as identidades digitais podem ser facilmente replicadas e apropriadas indevidamente para uso não autorizado.
Depois que um usuário cria um gêmeo digital de IA na plataforma, ele continua aprendendo com base nos links sociais fornecidos pelo usuário para criar uma identidade digital mais precisa.
Embora Hollo.AI tente resolver essas questões de transparência e uso ético da IA para criadores e espectadores, esses tópicos também estão em discussão em outras instituições e plataformas. O YouTube atualizou recentemente as diretrizes da comunidade para incluir mais medidas de transparência de IA.
O sindicato da indústria do entretenimento SAG-AFTRA está atualmente a negociar os termos finais com os principais estúdios de Hollywood sobre a utilização de “gêmeos digitais” gerados pela IA para os seus atores, após uma greve de 118 dias que teve o tema da IA como um dos seus termos críticos.
