Disputas do Facebook relatam que sua IA mal reduziu o discurso de ódio

Um executivo do Facebook diz que o discurso de ódio na plataforma caiu 50% nos últimos trimestres.

O Facebook respondeu no domingo a uma reportagem de que seu programa de inteligência artificial teve pouco efeito em coibir e remover conteúdo violento da rede social. O Wall Street Journal citou documentos internos de 2019 em seu relatório de que os engenheiros da rede social estimaram que os algoritmos da empresa removem apenas uma pequena fração do conteúdo problemático que viola as regras.

“O problema é que não temos e possivelmente nunca teremos um modelo que capture mesmo a maioria dos danos à integridade, particularmente em áreas sensíveis”, escreveu um engenheiro sênior e cientista pesquisador em uma nota de meados de 2019, de acordo com o Journal.

A empresa tem estado sob mais escrutínio para fazer um trabalho melhor de moderação de conteúdo, especialmente depois do motim de 6 de janeiro no Capitólio, que ressaltou como o ódio online pode se espalhar para o mundo real.

Mas o Facebook afirma que a prevalência de conteúdo de ódio na plataforma diminuiu quase 50% nos últimos três trimestres, para cerca de 0,05% da visualização do conteúdo, ou cerca de 5 em cada 10.000 visualizações.

“Dados extraídos de documentos que vazaram estão sendo usados ​​para criar uma narrativa de que a tecnologia que usamos para combater o discurso de ódio é inadequada e que deturpamos deliberadamente nosso progresso”, escreveu o vice-presidente de integridade do Facebook, Guy Rosen, em uma postagem de blog no domingo. “Isso não é verdade.

“Não queremos ver ódio em nossa plataforma, nem nossos usuários ou anunciantes, e somos transparentes sobre nosso trabalho para removê-lo”, escreveu Rosen.

A empresa tem passado mais tempo nas semanas após Frances Haugen, uma ex-funcionária do Facebook que se tornou denunciante, divulgou milhares de documentos e comunicações internas que mostravam que o Facebook estava ciente dos perigos de seus produtos, mas minimizou esses efeitos publicamente. Os legisladores de todo o espectro político responderam até agora com interesse renovado em responsabilizar o Facebook.

Haugen compareceu a um subcomitê do Senado dos Estados Unidos no início deste mês e alegou que os produtos do Facebook “prejudicam as crianças, alimentam a divisão e enfraquecem nossa democracia”. O CEO do Facebook, Mark Zuckerberg, criticou o testemunho de Haugen, dizendo que apresentava uma “falsa imagem” da rede social.

#Serviçosonline

John Doe

Curioso e apaixonado por tecnologia.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *