Google, LinkedIn, AirBNB e Microsoft se juntam ao Facebook em uma conferência sobre abuso de serviços online para explicar como eles usam algoritmos para combater fraudes.
O Facebook diz que não está no negócio de decidir se cada fato postado em sua linha do tempo está correto, mas se preocupa com esforços coordenados para espalhar informações erradas.
“Estamos preocupados quando a falsidade se torna uma indústria”, disse Michael McNally, diretor de engenharia do Facebook, a uma audiência de cerca de 500 pessoas na conferência Fighting Abuse @Scale na quarta-feira.
O tema da conferência – detectar e bloquear contas fraudulentas – não poderia ser mais oportuno. As observações de McNally ocorrem quando o Facebook lida com um intenso escrutínio sobre a disseminação de desinformação e conteúdo divisivo na gigante rede social em uma suposta campanha russa ocorrendo na época das eleições presidenciais de 2016.
É uma conferência sobre como parar o tipo de comportamento que tem o Facebook – e outros gigantes da tecnologia, incluindo Google e Twitter – em apuros agora.
Palestrantes do Google, AirBNB, Microsoft e LinkedIn também se apresentaram no evento de São Francisco, embora os palestrantes do Facebook tenham sido os mais focados na ideia de notícias falsas e desinformação.
Outros apresentadores da conferência falaram sobre a grande variedade de estragos que fraudadores, golpistas, spammers e outros criminosos podem criar se não forem controlados. Acontece que muitas das ferramentas usadas atualmente para detectar campanhas de desinformação são adaptadas de uma das batalhas online originais – a luta contra o spam.
Dependendo de como é usada, essa tecnologia é controversa. Chamado de aprendizado de máquina e inteligência artificial, é um software que permite que os computadores detectem padrões e atuem sobre eles. Ele tem o poder de filtrar milhões de postagens no Facebook mais rápido do que um grupo de humanos jamais conseguiria.
Mas esses algoritmos também podem agir em vieses embutidos neles, intencionalmente ou não, por seus criadores humanos. Esse é um medo poderoso em um momento em que os usuários conservadores do Facebook estão preocupados que o site use as preocupações com notícias falsas para derrubar o que diz ser na verdade pontos de vista dissidentes. Em meio a essas preocupações, o Facebook divulgou informações na terça-feira que detalham como eles decidem quando remover as postagens dos usuários.
O Facebook usa uma combinação de revisores humanos e software de detecção de padrões para se concentrar em histórias virais e falsas. Você pode conhecê-las como notícias falsas, mas o Facebook prefere o termo “notícias falsas”, disse McNally.
O objetivo da empresa é descobrir esforços coordenados para espalhar notícias falsas em torno de grandes eventos que têm o potencial de causar danos, disse ele. Como exemplo, McNally apontou para histórias alegando que os alunos da Marjory Stoneman Douglas High School que defendiam o controle de armas eram de fato atores pagos espalhados pela Internet depois que um atirador matou 17 pessoas na escola da Flórida em fevereiro.
Para encontrar histórias que parecem estar se espalhando a partir de uma campanha coordenada, o Facebook começa com o aprendizado de máquina para verificar a atividade na rede social e detectar padrões automaticamente.
Mas isso não é suficiente para identificar uma história como falsa. Em seguida, o Facebook seleciona histórias que seu algoritmo sinaliza e as envia para verificadores de fatos em organizações parceiras. Estes incluem Factcheck.org, Snopes e PolitiFact nos EUA.
Uma vez considerada falsa, uma história geralmente ainda pode ir para o Facebook, com algumas adições. Primeiro, o Facebook pode sinalizar um link antes que alguém o publique, informando aos usuários que ele foi desmascarado. O Facebook também oferece histórias adicionais abaixo da postagem original, na tentativa de oferecer contexto e vários pontos de vista. Por fim, o Facebook pode fazer com que a história pareça menor em sua linha do tempo para enviar uma mensagem sutil aos usuários.
Acontece que “reduzir o tamanho reduz o peso que você dá a uma certa reivindicação”, disse McNally.
Cultura tecnológica: de filmes e televisão a mídias sociais e jogos, aqui está o seu lugar para o lado mais leve da tecnologia.
As coisas mais inteligentes: os inovadores estão pensando em novas maneiras de tornar você e as coisas ao seu redor mais inteligentes.