Por Monika Bickert, Diretora Global de Gestão de Políticas, e Brian Fishman, Diretor de Políticas de Antiterrorismo

Nas últimas décadas, como ficou claro que a internet pode ser usada para conectar as pessoas tanto para o bem como para o mal, o Facebook e outras plataformas online tornaram prioridade minimizar a forma como os criminosos podem usar novas tecnologias. Um dos maiores desafios nesta área tem sido grupos terroristas, que abraçaram a internet como forma de espalhar propaganda e recrutar pessoas para suas ideologias extremistas. Esses grupos não limitam seus esforços a apenas uma rede social ou mecanismo de distribuição online. Em vez disso, eles tentam uma variedade de caminhos para divulgar suas mensagens.

Mas mesmo que governos, empresas e organizações sem fins lucrativos venham lutando contra a propaganda terrorista online, enfrentamos uma questão complexa: qual é a melhor maneira de enfrentar um desafio global que pode proliferar de diferentes maneiras, em diferentes partes da web?

Muitas vezes, analistas e observadores nos perguntam no Facebook por que, com nossos vastos bancos de dados e tecnologia avançada, não podemos simplesmente bloquear atividades nefastas usando apenas a tecnologia. A verdade é que precisamos não só de tecnologia, mas também de pessoas para fazer esse trabalho. E, para ser verdadeiramente eficaz para impedir a propagação de conteúdo terrorista em toda a internet, precisamos unir forças com os outros.

Mais de dois anos atrás, começamos a nos reunir com mais de uma dúzia de outras empresas de tecnologia para debater as melhores maneiras de combater as tentativas de uso de nossos serviços por terroristas. Todos enfrentamos desafios semelhantes, incluindo como identificar a quantidade relativamente pequena de conteúdo terrorista em nossos sites e como revisar esse conteúdo de forma rápida e precisa em muitos idiomas.

Em junho, descrevemos em um post de Questões Complexas como enfrentamos esses desafios no Facebook. Investimos em iniciativas para evitar que o conteúdo terrorista sequer chegue a ser disponibilizado em a nossa plataforma, ao mesmo tempo em que trabalhamos rapidamente para encontrar e remover tais conteúdos. Nós temos historicamente confiado em pessoas – nossos revisores de conteúdo – para avaliar o que potencialmente viola nossas políticas e remover esses materiais. Como descrevemos em junho último, começamos a usar Inteligência Artificial para complementar esses esforços, a fim de identificar com maior rapidez e precisão o conteúdo de terrorismo.

Enquanto trabalhamos para identificar quais estratégias são mais efetivas, lidamos com os desafios que qualquer empresa enfrenta no desenvolvimento de tecnologias que possam funcionar em diferentes tipos de mídia e conteúdo. Por exemplo, uma solução que funciona para fotos não necessariamente funcionará com vídeos ou texto. Uma solução que funcione para reconhecer imagens relacionadas ao terrorismo não necessariamente será capaz de distinguir entre um terrorista compartilhando essa imagem para recrutar e um veículo de notícias compartilhando a mesma imagem para educar o público.

Hoje, queremos compartilhar uma atualização sobre como esse trabalho está funcionando. Ainda é cedo, mas os resultados são promissores e esperamos que a Inteligência Artificial se torne uma ferramenta mais importante no arsenal de proteção e segurança na internet e no Facebook.

Ao mesmo tempo, continuamos expandindo nossas parcerias com outras empresas de tecnologia, governos e organizações sem fins lucrativos que compartilham conosco o objetivo de evitar o terrorismo na internet.

Detectando e removendo conteúdo terorista através da Inteligência Artificial

O uso de Inteligência Artificial e outras automações para impedir a disseminação de conteúdo terrorista vêm se mostrando promissor.

Hoje, 99% do conteúdo terrorista relacionado ao Estado Islâmico e à Al Qaeda que removemos do Facebook é detectado antes que qualquer pessoa em nossa comunidade denuncie esses materiais e, em alguns casos, antes mesmo que isso seja publicado na plataforma. Fazemos isso principalmente através do uso de sistemas automatizados, como ferramentas de comparação de fotos e vídeos e machine learning baseado em texto. Uma vez que ficamos cientes sobre um conteúdo terrorista, removemos 83% dos originais e cópias posteriormente postadas dentro de uma hora após sua publicação.

A implantação de Inteligência Artificial para o antiterrorismo não é tão simples quanto acionar um interruptor. Dependendo da técnica, você precisa revisar cuidadosamente as bases de dados ou ter pessoas codificando dados para treinar uma máquina. Um sistema projetado para encontrar conteúdo de um grupo terrorista pode não funcionar para outro, por causa da linguagem e diferentes estilos em sua propaganda.

Devido a essas limitações, focamos nossas técnicas mais inovadoras sobre os grupos terroristas que representam a maior ameaça globalmente, no mundo offline e online. O Estado Islâmico e a Al Qaeda se enquadram nesta definição de forma direta, por isso priorizamos nossas ferramentas para combater essas organizações e seus afiliados. Esperamos que, com o passar do tempo, possamos expandir de forma responsável e efetiva o uso de sistemas automatizados para detectar conteúdos de organizações terroristas regionais também.

Trabalhando com especialistas para encontrar conteúdo terrorista

O uso da Inteligência Artificial contra o terrorismo está cada vez mais efetivo, mas, em última instância, precisa do apoio de revisão manual de especialistas treinados. Para isso, utilizamos conhecimentos de dentro e de fora da empresa, em parceria com aqueles que podem ajudar a lidar com o extremismo na internet.

Em junho, anunciamos a formação do Fórum Global de Internet Combate ao Terrorismo, uma aliança com Microsoft, Twitter e YouTube para formalizar nossa colaboração de longa data no combate à propagação do terrorismo e do extremismo violento em nossas plataformas. Como sabemos que terroristas vão tentar uma variedade de maneiras de alcançar pessoas online, estamos trabalhando com empresas de tecnologia em todo o mundo para compartilhar informações sobre tendências e o que está funcionando para deter os terroristas. O fórum já reuniu mais de 50 empresas de tecnologia ao longo de três sessões de trabalho internacionais.

O trabalho do fórum inclui o desenvolvimento e a expansão de uma base de dados de “hashes” compartilhados pela indústria, que foi lançada no Fórum de Internet da União Européia em dezembro de 2016. Compartilhamos e utilizamos esses hashes, que são as “impressões digitais” de conteúdos já identificados como ligados ao terrorismo, para ajudar a detectar tentativas de uploads de uma potencial propaganda terrorista. Por meio do fórum, também nos comprometemos com governos em todo o mundo e estamos nos preparando para juntos financiar uma pesquisa sobre como governos, empresas de tecnologia e sociedade civil podem combater a radicalização online.

Juntamente com a crescente colaboração da indústria, continuamos a ampliar o nosso quadro de especialistas internos – que inclui linguistas, acadêmicos, ex-funcionários responsáveis pela aplicação da lei e ex-analistas de inteligência. Eles têm conhecimentos regionais a respeito de grupos terroristas em todo o mundo e também nos ajudam a construir relações mais fortes com especialistas fora da empresa que podem nos ajudar a detectar mais rapidamente as mudanças em como os grupos terroristas estão tentando usar a internet.

Nos últimos mese, por exemplo, ampliamos nossas parcerias com várias organizações que possuem experiência em terrorismo global ou inteligência cibernética para nos ajudar nos nossos esforços. Esses parceiros – que incluem o Flashpoint, o Middle East Media Research Institute (MEMRI), o SITE Intelligence Group e a o Computer Forensics Research Lab, na Universidade do Alabama – nos apontam Páginas, Perfis e Grupos no Facebook potencialmente associados a grupos terroristas para que possamos revisar o seu conteúdo. Essas organizações também nos enviam arquivos de fotos e vídeos associados ao Estado Islâmico e à Al Qaeda que eles encontram pela internet, que podemos então colocar em nossos sistemas para verificar se há correspondências de arquivos para remover ou impedir completamente uma tentativa de upload no Facebook.

Impacto no mundo real

Agradecemos o trabalho que autoridades do judiciário e de segurança executam em todo o mundo para manter nossas comunidades a salvo do terrorismo, e estamos empenhados em fazer a nossa parte para ajudar. Como mencionamos anteriormente, nós acionamos as autoridades sempre que vemos um risco de ameaça real e temos equipes de resposta disponíveis 24 horas por dia para atender solicitações de emergência. Ao longo do último ano, oferecemos apoio a autoridades de todo o mundo que estão respondendo à ameaça do terrorismo, inclusive em casos em que as autoridades foram capazes de evitar atentados e prevenir incidentes.

Compromisso Permanente

Ao mesmo tempo em que avançamos em nosso compromisso de combater o terrorismo usando a Inteligência Artificial, fazendo uso da experiência humana e fortalecendo o trabalho colaborativo, reconhecemos que sempre podemos fazer mais. Continuaremos a fornecer atualizações sobre nossos esforços à medida em que desenvolvemos novas tecnologias e firmamos novas parcerias diante deste desafio global.