geek-fusion-01.png
logo-tecbox-01.svg

Nightshade: a ferramenta que transforma seus modelos de IA em armadilhas para plagiadores

Tecnologia

 SD

A arte digital é uma forma de expressão criativa que pode ser facilmente copiada, modificada ou roubada por outros. Muitos artistas digitais enfrentam o problema de ver suas obras de arte usadas sem sua permissão ou crédito, ou até mesmo reproduzidas por algoritmos de inteligência artificial (IA) que aprendem com seus estilos e técnicas.

Para proteger seus direitos autorais e sua identidade artística, alguns artistas recorrem a ferramentas que permitem alterar suas imagens de forma imperceptível para os olhos humanos, mas que enganam os modelos de IA que tentam treiná-las. Uma dessas ferramentas é o Nightshade, um software livre desenvolvido por pesquisadores da Universidade de Chicago, que permite aos artistas "envenenar" seus trabalhos com etiquetas invisíveis que confundem os algoritmos de reconhecimento de imagem.

O Nightshade foi lançado há alguns meses, depois de ter sido anunciado pela primeira vez em um artigo científico. Ele usa a popular estrutura de aprendizado de máquina PyTorch para detectar os objetos presentes em uma imagem e aplicar uma transformação sutil no nível de pixel que faz com que outros programas de IA vejam algo completamente diferente do que realmente está lá. Por exemplo, uma imagem de uma vaca em um campo verde pode ser alterada pelo Nightshade para que um modelo de IA a interprete como uma bolsa de couro na grama.

O objetivo do Nightshade é não apenas impedir que os modelos de IA copiem ou usem as obras de arte sem autorização, mas também prejudicar seu desempenho e sua confiabilidade. Um modelo de IA que treinou em muitas imagens "sombreadas" pelo Nightshade provavelmente cometerá erros de classificação ou reconhecimento em imagens futuras, mesmo que não tenham sido alteradas pelo Nightshade. Isso pode afetar negativamente a qualidade e a credibilidade dos serviços baseados em IA, como motores de busca, redes sociais ou plataformas de comércio eletrônico.

O Nightshade é a segunda ferramenta desse tipo criada pela equipe da Universidade de Chicago, liderada pelo professor Ben Zhao. Anteriormente, eles haviam desenvolvido o Glaze, outro software livre que permite aos artistas alterar seus trabalhos digitais para confundir os algoritmos de treinamento de IA sobre o estilo artístico da imagem. Por exemplo, uma imagem pintada em um estilo impressionista pode ser modificada pelo Glaze para parecer ter cores e pinceladas diferentes do que realmente tem.

Enquanto o Glaze foi projetado como uma ferramenta defensiva, para preservar o estilo único e original dos artistas, o Nightshade foi concebido como uma ferramenta ofensiva, para sabotar os modelos de IA que se apropriam indevidamente da arte digital. Os pesquisadores recomendam que os artistas usem ambas as ferramentas em conjunto, para obter uma proteção mais eficaz e abrangente contra a exploração da IA.

O Nightshade está disponível gratuitamente para os artistas baixarem e usarem em quaisquer obras de arte que acharem melhor. Ele é compatível com vários formatos de imagem e pode ser facilmente integrado a outros programas ou aplicativos. Os pesquisadores esperam que o Nightshade incentive os artistas digitais a defenderem seus direitos e sua criatividade, e também conscientize o público sobre os riscos e desafios éticos da IA.

 

 

  

Inscreva-se no canal Geek TV, o canal oficial do Geek Fusion no YouTube e acompanhe nossos conteúdos e produções de parceiros. Siga-nos também no Facebook, Instagram e X, para ficar por dentro das novidades que preparamos especialemnte para você!

Tem uma dica de notícia ou quer entrar em contato conosco diretamente? Então faça contato através do e-mail Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo..

_img-vitor-2.jpg
Vitor Virtuoso Mendes
FenryrFrost
Sou um nerd violinista, completamente apaixonado por games e contos de terror!