O combate ao terrorismo não é só uma preocupação das forças de segurança dos países alvos de atentados. Dados revelados pelo Facebook apontam que a rede social deletou, somente em 2018, 14 milhões de publicações relacionadas ao terrorismo. As postagens são identificadas por algoritmos que vasculham as novas publicações no site. Eles apontam os conteúdos identificados como terroristas e os funcionários da rede social ficam responsáveis por decidir se as postagens devem ou não serem removidas.
A efetividade da análise do algoritmo reduziu a necessidade de que usuários denunciassem as publicações. Segundo o TechCrunch, site americano especializado em tecnologia, apenas 1% das postagens deletadas por terrorismo são as denunciadas por quem acessa a rede social. No primeiro semestre de 2018, 1,2 milhão de postagens novas foram deletadas. Esse número cresceu no segundo e no terceiro semestre, com 2,2 milhões e 2,3 milhões respectivamente.
O Facebook não vê esse crescimento como um aumento no número de publicações terroristas na prática, mas como resultado da correção de bugs do processo de busca, permitindo a descoberta de mais postagens do que era possível encontrar anteriormente. As atualizações no sistema de procura por essas postagens também têm permitido que se descubram postagens antigas que ainda não haviam sido vistas.
Mensagens de até dois anos e meio atrás vêm sendo deletadas. Somente no segundo semestre desse ano foram sete milhões e cem mil mensagens antigas deletadas. A empresa acredita que apesar de terem ficado tanto tempo no ar, essas mensagens não tiveram grande audiência por nunca terem sido denunciadas. O algoritmo do Facebook identifica esse tipo de conteúdo em textos, imagens e vídeos de 19 línguas diferentes até o momento.