O Facebook está usando robôs para lutar contra propaganda terrorista na plataforma


Uma das principais armas usadas por grupos terroristas hoje é a internet, onde eles podem espalhar sua mensagem de ódio através de vídeos e outras peças de propaganda. As redes sociais se tornaram uma ferramenta especialmente útil para grupos como o ISIS e a Al Qaeda, por sua capacidade de transmitir ideias com rapidez e praticidade.

Por isso, o Facebook está buscando soluções tecnológicas para se fortalecer no combate a este tipo de propaganda terrorista. Mais especificamente, a empresa aposta no uso de inteligência artificial.

"Apesar de o nosso uso de IA ser relativamente recente, ele já está mudando a forma como mantemos conteúdo e contas relacionadas ao terrorismo fora do Facebook", escrevem Monika Bickert, diretora de políticas globais, e Brian Fishman, gerente de políticas antiterroristas. "Estamos concentrando nossa tecnologia mais avançada para combater conteúdo terrorista do ISIS, da Al Qaeda e de outros afiliados."

A tecnologia empregada pelo Facebook utiliza reconhecimento de imagem, em fotos e vídeos, identificando esse tipo de material antes de ele ser publicado. Os algoritmos de machine learning da empresa também estão sendo treinados para detectar, em textos, expressões que indiquem apologia terrorista, indicando-a automaticamente.

Isso ajuda o Facebook a remover contas associadas a grupos extremistas, e a identificar células jihadistas dentro da rede social. Mas a inteligência humana ainda se faz necessária, segundo a empresa, pois alguns contextos são muito sutis para os algoritmos diferenciarem.

"Uma foto de um homem armado acenando com uma bandeira do ISIS pode servir como material de recrutamento, mas também poderia ser a imagem que ilustra uma notícia", escrevem Monika e Brian. "Algumas das críticas mais efetivas contra grupos brutais como o ISIS utilizam sua própria propaganda contra eles. Para entender casos com mais nuance, precisamos da expertise humana."

Mas o uso da inteligência artificial será capaz, nos próximos anos, de acelerar e facilitar esse processo de avaliação, tornando a tecnologia uma grande aliada na luta contra a disseminação de ódio na plataforma.

Fonte: Facebook

Foto: Facebook