Jigsaw e Tech Against terrorism se unem para combater o extremismo online com ferramenta de código aberto

Vitor Virtuoso Tecnologia 22 Julho 2024

Jigsaw do Google empodera plataformas menores na luta contra o extremismo online com ferramenta de código aberto

Fake

A iniciativa visa empoderar empresas menores a lidar com conteúdo prejudicial em suas plataformas.

A Jigsaw, incubadora subsidiária do Google, lançou o Altitude como código aberto, uma ferramenta projetada para auxiliar empresas menores na identificação e remoção de conteúdo extremista em suas plataformas online. Essa iniciativa busca democratizar o acesso a ferramentas de moderação de conteúdo, anteriormente disponíveis apenas para grandes empresas com recursos robustos.

Embora grandes empresas de tecnologia como Meta, X e o próprio Google possuam expertise na moderação de conteúdo, os recursos necessários para tal tarefa podem ser inacessíveis para players digitais menores. Essa lacuna se torna ainda mais problemática com o advento de legislações como o Digital Services Act (DSA) da Europa e regras específicas de conteúdo para terrorismo, que pressionam as empresas a remover conteúdo ilícito com agilidade.

O Altitude, lançado em novembro de 2023, auxilia moderadores na verificação de conteúdo em suas plataformas em relação a bancos de dados de terceiros, otimizando o processo e evitando a necessidade de verificação manual de cada fonte. A ferramenta foi desenvolvida em parceria com a Tech Against Terrorism, iniciativa da Diretoria Executiva do Comitê Antiterrorismo das Nações Unidas (CTED), e com o Global Internet Forum to Counter Terrorism (GIFCT), organização liderada pela indústria.

Após nove meses de desenvolvimento, a Jigsaw entrega formalmente o Altitude à Tech Against Terrorism, que assumirá a responsabilidade por seu aprimoramento e manutenção. O código da ferramenta está disponível no GitHub sob licença Apache 2.0, permitindo que empresas a hospedem em seus próprios servidores e que terceiros inspecionem o código.

O Altitude se baseia em fontes de dados confiáveis fornecidas por empresas como a GIFCT, que consolidam informações para alimentar ferramentas automatizadas de moderação de conteúdo e o banco de dados de conteúdo terrorista verificado em tempo real da Tech Against Terrorism. Essas fontes identificam e sinalizam conteúdo extremista utilizando seus próprios métodos.

Ao se conectar a esses bancos de dados, o Altitude consolida o que denomina "conteúdo terrorista e extremista violento" (TVEC) em uma única interface, permitindo que moderadores visualizem, revisem e removam conteúdo rapidamente, cumprindo suas obrigações em qualquer jurisdição em que operem. Vale salientar que a remoção do conteúdo não é automática, cabendo aos humanos a avaliação final após a sinalização.

Embora a Jigsaw e a Tech Against Terrorism não revelem as plataformas que utilizaram o Altitude durante seu período de testes inicial, os tipos de aplicativos com maior probabilidade de adotá-lo incluem:

Aplicativos de mensagens
Serviços de encurtamento de URL
Sites de hospedagem de vídeo
Fóruns online
Redes sociais
Pastebins

A disponibilização do código aberto do Altitude oferece diversos benefícios:

Empoderamento de empresas menores: Empresas com recursos limitados agora podem acessar ferramentas de moderação de conteúdo de alta qualidade.
Flexibilidade de implementação: As empresas podem integrar o Altitude em suas próprias plataformas ou utilizar o suporte de integração personalizado da Tech Against Terrorism.
Transparência e colaboração: O código aberto permite que a comunidade inspecione e contribua para o aprimoramento da ferramenta.

A Jigsaw e a Tech Against Terrorism pretendem adicionar bancos de dados especializados às fontes de dados do Altitude e expandir a ferramenta para além do inglês no futuro. Essa iniciativa demonstra o compromisso das organizações em combater o conteúdo extremista online e em democratizar o acesso a ferramentas eficazes de moderação de conteúdo.

LINKS RELACIONADOS

Inscreva-se no canal Geek TV, o canal oficial do Geek Fusion no YouTube e acompanhe nossos conteúdos e produções de parceiros. Siga-nos também no Facebook, Instagram e X, para ficar por dentro das novidades que preparamos especialemnte para você!

Tem uma dica de notícia ou quer entrar em contato conosco diretamente? Então faça contato através do e-mail Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo..