fakeaccounts.png

Por Alex Schultz, VP de Analytics

Nós recebemos regularmente muitas perguntas sobre os números de contas falsas em nosso Relatório de Aplicação de Regras da Comunidade (CSER, em inglês. Com o aumento das remoções de conta falsas e prevalência, publicados no último relatório, achamos que seria um bom momento para fornecer mais detalhes sobre como medimos contas falsas. Também estamos nos abrindo ainda mais transparentemente para terceiros, inclusive sobre nossos números de contas falsas, por meio do DTAG (Data Transparency Advisory Group). Sabemos que é importante ter uma verificação independente da nossa metodologia e do nosso trabalho.

Acreditamos que as contas falsas são medidas corretamente dentro das limitações de nossos sistemas de medição (que divulgamos em nosso CSER e nos arquivos da SEC). Dito isto, embora o reporte de contas falsas seja um padrão da indústria (e algo que nos é amplamente solicitado), pode ser uma maneira ruim de ver as coisas. Por exemplo:

  • O número de contas falsas identificadas é muito distorcido por ataques simplistas, que não representam danos reais ou até mesmo um risco real de danos. (Se um ator mal-intencionado tenta montar um ataque e criar cem milhões de contas falsas – e as removemos assim que são criadas – são cem milhões de contas falsas identificadas, mas ninguém ficou exposto a essas contas e, portanto, não houve chances de danos aos nossos usuários.) Como removemos essas contas tão rapidamente, elas nunca são consideradas ativas e não as contabilizamos como usuários ativos mensais.
  • A prevalência é uma maneira melhor de entender o que está acontecendo na plataforma, pois mostra a porcentagem de contas ativas que provavelmente são falsas.
  • No entanto, ainda assim, o número de prevalência de contas falsas inclui contas abusivas e contas classificadas erroneamente pelos usuários (um exemplo comum é quando as pessoas definem seu animal de estimação como um Perfil ao invés de uma Página), embora apenas as abusivas causem danos.
  • Focamos nosso trabalho contra contas abusivas para evitar danos e evitar tomarmos ações incorretas em relação a contas autênticas.

Desta forma:

  • Recomendamos focar nas métricas relacionadas a violações reais de conteúdo no relatório CSER
  • Estamos avaliando se há uma maneira melhor de reportar contas falsas no futuro

Em geral, continuamos confiantes de que a grande maioria das pessoas e atividades no Facebook são genuínas.

Como aplicamos regras e definimos métricas

Quando se trata de contas falsas abusivas, nossa intenção é simples: encontrar e remover a maior quantidade possível enquanto removemos o mínimo possível de contas autênticas. Fazemos isso de três maneiras distintas e incluímos dados no Relatório de Aplicação de Regras da Comunidade para fornecer uma visão mais ampla possível de nossos esforços:

  • 1. Bloqueando contas antes de serem criadas: A melhor maneira de combater contas falsas é impedi-las de serem registradas no Facebook, em primeiro lugar. É por isso que criamos uma tecnologia que pode detectar e bloquear contas antes mesmo de serem criadas. Nossos sistemas procuram diversos sinais diferentes que indicam se as contas são criadas em massa a partir de um único local. Um exemplo simples é o bloqueio de determinados endereços de IP para que não possam acessar nossos sistemas e, portanto, não possam criar contas.
    • O que medimos: Os dados que incluímos no relatório sobre contas falsas não incluem tentativas malsucedidas de criar contas falsas que bloqueamos nesta fase. Isso ocorre porque nós realmente não podemos saber o número de tentativas bloqueadas de criar uma conta, uma vez que, por exemplo, impedimos grupos completos de IP de até mesmo acessar o nosso site. Embora esses esforços não estejam incluídos no relatório, podemos estimar que todos os dias evitamos que milhões de contas falsas sejam criadas usando esses sistemas de detecção.
  • 2. Removendo contas quando se inscrevem: Nossos sistemas avançados de detecção também procuram possíveis contas falsas assim que se registram, identificando sinais de comportamento malicioso. Esses sistemas usam uma combinação de sinais, como padrões de uso de endereços de e-mail suspeitos, ações suspeitas ou outros sinais anteriormente associados a outras contas falsas que removemos. A maioria das contas que atualmente removemos é bloqueada minutos após sua criação, antes que possam causar qualquer dano.
    • O que medimos: incluímos as contas que desativamos nesse estágio em nossa métrica de Perfis identificados como contas falsas. Mudanças nos nossos números de contas identificadas geralmente são resultados de ataques não sofisticados, como vimos nos dois últimos trimestres. Estas são realmente fáceis de detectar e podem dominar totalmente nossos números, mesmo que representem pouco risco para os usuários. Por exemplo, um spammer pode tentar criar um milhão de contas rapidamente a partir do mesmo endereço IP. Nossos sistemas identificarão isso e removerão rapidamente essas contas falsas. O número será adicionado ao nosso relatório de números de contas derrubadas, mas as contas foram removidas tão cedo que jamais foram consideradas ativas e, portanto, não poderiam impactar na estimativa de prevalência de contas falsas entre usuários ativos mensais, no nosso relatório público de usuários ativos mensais, ou mesmo em quaisquer visualizações de anúncios.
  • 3. Removendo contas já ativas no Facebook: Algumas contas podem passar pelas duas etapas de defesa acima e, ainda assim, chegar à plataforma. Muitas vezes, isso ocorre porque elas não mostram sinais de serem falsas ou mal-intencionadas a princípio, então nós damos o benefício da dúvida até que exibam sinais de atividade maliciosa. Identificamos essas contas quando nossos sistemas de detecção reconhecem esse comportamento ou se as pessoas que usam o Facebook relatam isso para nós. Usamos vários sinais sobre como a conta foi criada e como está sendo usada para determinar se ela tem alta probabilidade de ser falsa, e desativamos aquelas que são.
    • O que medimos: As contas removidas neste estágio também são contabilizadas em nossa métrica de contas falsas identificadas. Se essas contas estiverem ativas na plataforma, também as contabilizaremos em nossa métrica de prevalência. A prevalência de contas falsas mede quantas contas ativas falsas existem entre nossos usuários ativos mensais em um determinado período de tempo. Das contas que removemos, tanto no momento de registro quanto nas que já estão na plataforma, mais de 99% delas são proativamente detectadas por nós antes que as pessoas as denunciem. Fornecemos esses dados como nossa métrica de taxa proativa no relatório.

Acreditamos que, de todas as métricas mencionadas acima, a prevalência de contas falsas é a métrica mais importante para focarmos.

É importante obter o equilíbrio certo

Temos dois objetivos principais com contas falsas: evitar abusos de contas falsas, mas também dar às pessoas o poder de compartilhar através de contas autênticas. Temos que encontrar o equilíbrio certo entre esses objetivos.

Para evitar abusos vindo de contas falsas, tentamos identificar as contas que parecem abusivas, mas mesmo assim, ainda é possível que tomemos alguma ação contra contas que não necessariamente são abusivas. Quando alguém se junta ao Facebook e envia muitos pedidos de amizade, pode parecer que é um spammer, mas na verdade é uma pessoa super sociável como, por exemplo, usuários no Brasil que estão adotando rapidamente mídias sociais ou adolescentes enviando uma grande quantidade de mensagens por dia. Às vezes, alguém se cadastra e se comporta de maneira estranha porque é uma pessoa completamente nova na Internet e ainda está descobrindo a rede, ou é um idoso que acabou de se conectar pela primeira vez.  Acreditamos que dar às pessoas o poder de construir uma comunidade é realmente importante e, para contas sobre as quais não temos certeza se são abusivas, daremos tempo para provar sua intenção Assim, tanto com o foco em contas abusivas (não Perfis de animais de estimação classificados erroneamente pelo usuário) quanto com a confiança dada às novas contas para provar a intenção que esperamos, sempre haverá um pequeno percentual de contas falsas em nossos serviços.

Evitar contas falsas é apenas uma das maneiras de impedir o abuso em nossa plataforma e nós temos outras proteções uma vez que conteúdo esteja sendo produzido e as pessoas estejam interagindo com esses Perfis. Contas falsas também são apenas uma forma de abuso. Contas autênticas podem ser abusivas também. Como tal, para avaliar nosso trabalho em manter a comunidade segura em geral, recomendamos usar o conjunto completo de métricas que oferecemos no relatório CSER e focar, especialmente, nas métricas de prevalência. Nosso trabalho em contas falsas é apenas uma delas.

Além das perguntas que recebemos sobre contas falsas abusivas, também somos questionados sobre contas falsas em geral, uma vez que elas podem se relacionar com o retorno sobre investimento feito por anunciantes conosco. Da mesma forma que queremos que as pessoas compartilhem no Facebook e sabemos que elas só farão isso se sentirem-se seguras, também sabemos que os anunciantes só continuarão a anunciar no Facebook se obtiverem resultados – e continuaremos a gerar um retorno para eles apesar da pequena ocorrência de contas falsas.

Continuamos confiantes de que a grande maioria das pessoas e atividades no Facebook é genuína. Incentivamos feedback e uma análise minuciosa em relação às contas falsas, mas estamos orgulhosos do nosso trabalho em manter um equilíbrio entre a proteção das pessoas e dos anunciantes nos nossos serviços, ao mesmo tempo que damos a todos o poder de construir comunidades no Facebook.