Pesquisadores da Universidade de Chicago desenvolveram uma ferramenta que dá aos artistas a capacidade de “envenenar” sua arte digital para impedir que os desenvolvedores treinem sistemas de inteligência artificial (IA) em seu trabalho.
Chamada de “Nightshade”, em homenagem à família de plantas – algumas das quais são conhecidas por suas frutas venenosas – a ferramenta modifica as imagens de tal forma que sua inclusão contamina os conjuntos de dados usados para treinar a IA com informações incorretas.
De acordo com um relatório da Technology Review do MIT, Nightshade altera os pixels de uma imagem digital para induzir um sistema de IA a interpretá-la mal. Como exemplos, a Tech Review menciona convencer a IA de que a imagem de um gato é um cachorro e vice-versa.
Ao fazer isso, a capacidade da IA de gerar resultados precisos e sensatos seria teoricamente prejudicada. Usando o exemplo acima, se um usuário solicitasse uma imagem de um “gato” da IA contaminada, ele poderia, em vez disso, obter um cachorro rotulado como gato ou um amálgama de todos os “gatos” no conjunto de treinamento da IA, incluindo aqueles que são na verdade, imagens de cães que foram modificadas pela ferramenta Nightshade.
Um especialista que assistiu ao trabalho, Vitaly Shmatikov, professor da Universidade Cornell, opinou que os investigadores “ainda não conhecem defesas robustas contra estes ataques” – a implicação é que mesmo modelos robustos como o ChatGPT da OpenAI podem estar em risco.
A equipe de pesquisa por trás do Nightshade é liderada por Ben Zhao, professor da Universidade de Chicago. A nova ferramenta é na verdade uma expansão do software de proteção ao artista existente, chamado Glaze. Em seu trabalho anterior, eles desenvolveram um método pelo qual um artista poderia ofuscar, ou “envidraçar” o estilo de sua obra de arte.
Um artista que criasse um retrato a carvão, por exemplo, poderia ser esmaltado para parecer arte moderna a um sistema de IA.
De acordo com a análise de tecnologia, o Nightshade será finalmente implementado no Glaze, que atualmente está disponível gratuitamente para uso na web ou download.
