Depois de acusações, o Twitter vai pagar hackers para encontrar preconceitos em seus cortes automáticos de imagens

Os vencedores da competição serão anunciados na Def Con

O Twitter está realizando uma competição na esperança de que hackers e pesquisadores consigam identificar vieses em seu algoritmo de recorte de imagem – e distribuirá prêmios em dinheiro para as equipes vencedoras (via Engadget). O Twitter espera que dar às equipes acesso ao seu código e modelo de recorte de imagem permita que encontrem maneiras pelas quais o algoritmo pode ser prejudicial (como recortar de uma forma que estereótipo ou apaga o assunto da imagem).

Os competidores terão que enviar uma descrição de suas descobertas e um conjunto de dados que pode ser executado por meio do algoritmo para demonstrar o problema. O Twitter atribuirá pontos com base nos tipos de danos encontrados, no quanto isso pode afetar as pessoas e muito mais.

A equipe vencedora receberá US $ 3.500 e haverá prêmios separados de US $ 1.000 para as descobertas mais inovadoras e generalizáveis. Essa quantia causou um certo rebuliço no Twitter, com alguns usuários dizendo que deveria ter um zero a mais. Para contextualizar, o programa normal de recompensa por bug do Twitter pagaria US $ 2.940 se você encontrasse um bug que permitisse realizar ações para outra pessoa (como retuitar um tweet ou imagem) usando cross-site scripting. Encontrar um problema de OAuth que permite que você assuma a conta do Twitter de alguém renderia $ 7.700.

Uma competição permite que o Twitter obtenha feedback de uma gama muito mais ampla de perspectivas

O Twitter já fez sua própria pesquisa sobre seu algoritmo de corte de imagens antes – em maio, ele publicou um artigo investigando como o algoritmo era tendencioso, após acusações de que suas safras prévias eram racistas. O Twitter quase acabou com o corte de visualizações algoritmicamente desde então, mas ainda é usado no desktop e um bom algoritmo de corte é uma coisa útil para uma empresa como o Twitter.

A abertura de uma competição permite que o Twitter obtenha feedback de uma gama muito mais ampla de perspectivas. Por exemplo, a equipe do Twitter reservou um espaço para discutir a competição durante a qual um membro da equipe mencionou ter recebido perguntas sobre vieses baseados em castas no algoritmo, algo que pode não ser perceptível para desenvolvedores de software na Califórnia.

O Twitter também está procurando maneiras de explorar seu algoritmo

Também não é apenas o viés algorítmico subconsciente que o Twitter está procurando. A rubrica tem valores de pontos para danos intencionais e não intencionais. O Twitter define danos não intencionais como cortes que podem resultar de um usuário “bem-intencionado” postar uma imagem regular na plataforma, enquanto danos intencionais são comportamentos de corte problemáticos que podem ser explorados por alguém que publica imagens com design malicioso.

O Twitter diz em seu blog de anúncio que a competição é separada de seu programa de recompensa por bug – se você enviar um relatório sobre vieses algorítmicos para o Twitter fora da competição, a empresa diz que seu relatório será encerrado e marcado como não aplicável. Se estiver interessado em ingressar, você pode acessar a página do HackerOne da competição para ver as regras, critérios e muito mais. As inscrições estão abertas até 6 de agosto às 23h59 PT, e os vencedores do desafio serão anunciados no Def Con AI Village em 9 de agosto.

#tecnologia #tecnologia #tecnologia #política #tecnologia #Twitter #notícia

John Doe

Curioso e apaixonado por tecnologia.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *