IA inapropriada: Meta busca soluções para conteúdo sensível
Meta lida com a IA explícita
O Conselho de Supervisão da Meta, uma entidade semi-independente encarregada de avaliar as políticas de moderação da empresa, está investigando como o Instagram e o Facebook lidam com imagens explícitas geradas por inteligência artificial (IA). Este movimento surge após a detecção falha de conteúdo inapropriado envolvendo figuras públicas nas plataformas sociais da Meta.
No primeiro incidente, um usuário do Instagram na Índia reportou uma imagem de nudez gerada por IA de uma figura pública como pornografia. A imagem foi postada por uma conta dedicada a publicar imagens de mulheres indianas criadas por IA. Apesar de dois relatórios, a Meta falhou em remover a imagem, que só foi retirada após o caso ser levado ao Conselho de Supervisão.
No segundo caso, no Facebook dos EUA, uma imagem explícita gerada por IA de uma figura pública americana foi removida por já estar catalogada em um banco de dados de mídia da Meta sob a categoria de “photoshop ou desenhos sexualizados depreciativos”.
O Conselho de Supervisão escolhe casos que refletem problemas mais amplos nas plataformas da Meta. O objetivo é avaliar a eficácia das políticas e processos da empresa em diferentes contextos e mercados. Helle Thorning-Schmidt, co-presidente do Conselho, enfatizou a importância de proteger todas as mulheres globalmente de maneira justa e eficaz contra conteúdo abusivo.
A proliferação de ferramentas de IA capazes de gerar pornografia levanta questões éticas e desafios de moderação. Grupos como o Unstable Diffusion têm tentado monetizar a pornografia de IA, muitas vezes com linhas éticas tênues e dados tendenciosos. Na Índia, por exemplo, o aumento de vídeos deepfake de atrizes é uma preocupação crescente, destacando a necessidade de abordagens de moderação mais eficazes para proteger as vítimas de abusos baseados em gênero online.
Os casos investigados pelo Conselho de Supervisão da Meta ilustram a complexidade da moderação de conteúdo em uma era de avanços tecnológicos rápidos. Eles destacam a necessidade de políticas robustas e sistemas de detecção eficientes para combater o uso indevido de IA na criação de imagens explícitas e proteger indivíduos de assédio e abuso online. A resposta da Meta a esses desafios será crucial para manter a integridade e a segurança de suas plataformas.
LINKS RELACIONADOS
- Meta equilibra liberdade de expressão e riscos com novas regras de IA
- A Meta desafia a UE: A polêmica do ‘consentimento ou pagamento'
Inscreva-se no canal Geek TV, o canal oficial do Geek Fusion no YouTube e acompanhe nossos conteúdos e produções de parceiros. Siga-nos também no Facebook, Instagram e X, para ficar por dentro das novidades que preparamos especialemnte para você!
Tem uma dica de notícia ou quer entrar em contato conosco diretamente? Então faça contato através do e-mail
Vitor Virtuoso Mendes
FenryrFrost
Sou um nerd violinista, completamente apaixonado por games e contos de terror!
