Análise Coded Bias: Documento revelador da Netflix enfrenta tecnologia racista

Nos ajude compartilhando esse conteúdo

Chegando à Netflix em 5 de abril, conheça os ativistas que lutam contra as falhas humanas embutidas em algoritmos que executam nossas vidas.

Quando exatamente os computadores começaram a tomar decisões sobre nossos cuidados de saúde, nossos empregos, nosso acesso a oportunidades, até mesmo se podemos andar na rua sem ser presos? Documentário perspicaz Coded Bias, transmitido pela Netflix a partir de 5 de abril, revela de forma assustadora quanto poder a tecnologia já detém sobre nós. Mas também apresenta uma geração de ativistas que lutam contra essa tecnologia exagerada que é moldada por nossas piores falhas humanas.

A história começa com Joy Buolamwini. Encontramos este contagiosamente curioso cientista da computação nascido no Canadá e criado no Mississippi, usando brincos Wakanda em um escritório do MIT cheio de Lego, lendo não uma história em quadrinhos, mas um livro sobre como fazer histórias em quadrinhos. Ela descreve seu entusiasmo juvenil pela tecnologia como um meio de transcender os problemas do mundo – até que um projeto de reconhecimento facial a fez perceber que as falhas humanas estão na verdade embutidas nas coisas que construímos. O filme mostra um sistema de análise facial que falha em registrar o rosto dessa talentosa engenheira negra, até que ela coloca uma máscara branca: uma metáfora visual reveladora de como a tecnologia perpetua os preconceitos das pessoas que a fazem.

Quando exatamente os computadores começaram a tomar decisões sobre nossos cuidados de saúde, nossos empregos, nosso acesso a oportunidades, até mesmo se podemos andar na rua sem ser presos? Documentário perspicaz Coded Bias, transmitido pela Netflix a partir de 5 de abril, revela de forma assustadora quanto poder a tecnologia já detém sobre nós. Mas também apresenta uma geração de ativistas que lutam contra essa tecnologia exagerada que é moldada por nossas piores falhas humanas.

A história começa com Joy Buolamwini. Encontramos este contagiosamente curioso cientista da computação nascido no Canadá e criado no Mississippi, usando brincos Wakanda em um escritório do MIT cheio de Lego, lendo não uma história em quadrinhos, mas um livro sobre como fazer histórias em quadrinhos. Ela descreve seu entusiasmo juvenil pela tecnologia como um meio de transcender os problemas do mundo – até que um projeto de reconhecimento facial a fez perceber que as falhas humanas estão na verdade embutidas nas coisas que construímos. O filme mostra um sistema de análise facial que falha em registrar o rosto dessa talentosa engenheira negra, até que ela coloca uma máscara branca: uma metáfora visual reveladora de como a tecnologia perpetua os preconceitos das pessoas que a fazem.

A análise facial se torna um ponto de partida para o diretor Shalini Kantayya ampliar habilmente o escopo. Coded Bias ilumina o poder desregulamentado preocupante exercido por algoritmos, ciência de dados, aprendizado de máquina e a chamada inteligência artificial, todos cumprindo as ordens de programadores, engenheiros e bilionários que estão transmitindo seus preconceitos conscientes e inconscientes. O resultado é um admirável mundo novo de máquinas que se parece muito com estruturas de poder racistas e sexistas do passado.

O filme dispensa rapidamente as comparações familiares de Hollywood com HAL e o Exterminador do Futuro antes de mergulhar na história de origem da IA: um workshop de verão para acadêmicos brancos na Universidade de Dartmouth em 1956. Isso serve como uma parte interessante da história, mas também apresenta uma tema. A inovação de hoje depende das decisões não apenas das pessoas que trabalham no campo agora, mas das pessoas que lançaram as bases e nos guiaram até onde estamos hoje – dirigidas consciente ou inconscientemente por suas próprias atitudes sobre o que a ciência deveria ser e quem é para.

Dos teóricos de ontem (principalmente brancos, principalmente homens) aos bilionários de tecnologia de hoje (principalmente brancos, principalmente homens), há uma marcada continuidade entre quem estava no comando então e quem está no comando agora. “Os dados são um reflexo da nossa história”, como diz Buolamwini. “O passado reside em nossos algoritmos.”

Este não é um experimento mental perturbador, mas abstrato. A IA molda nossas vidas agora. Coded Bias lista exemplos reais de algoritmos que já tomam decisões sobre seu crédito, sua saúde, sua moradia, sua faculdade ou aplicações de emprego, até mesmo seu acesso a essa possibilidade. O sistema tem em suas mãos a esperança de uma vida melhor – e não há apelo se o computador disser não.

É alarmante a quantidade de poder global acumulada pelos “nove grandes” gigantes da tecnologia: Amazon, Google, Facebook, Tencent, Baidu, Alibaba, Microsoft, IBM e Apple. Ainda mais sinistro é a perspectiva de aplicação da lei aproveitando a nova tecnologia antes que ela seja testada ou avaliada pelos legisladores. Claro, podemos apontar para o perturbador sistema de crédito social ao estilo do Black Mirror da China e dizer que pelo menos não somos assim. Mas em economias capitalistas supostamente democráticas, o problema é realmente mais insidioso: mais de 117 milhões de pessoas nos Estados Unidos estão registradas em redes de reconhecimento facial, por exemplo.

Nas ruas de Londres incrustadas de câmeras, o filme encontra o grupo ativista Big Brother Watch, enfrentando desafios legais de alto nível contra a vigilância em massa e batendo na calçada ajudando os transeuntes que foram atacados pela polícia porque uma câmera escondida os apontou. Uma cena mostra um estudante empacotado em uma rua movimentada por um grupo de policiais sem uniforme quando um sistema de análise facial o identificou incorretamente. O estudante era negro. Outra cena mostra um confronto absurdo em que a polícia multou um homem que cobriu o rosto ao passar por uma câmera de reconhecimento facial. Mesmo que a tecnologia fosse precisa na identificação de suspeitos – e muito não é – os policiais estão claramente usando-a para designar um comportamento como suspeito, provocar esse mesmo comportamento e fabricar punições.

Se a análise facial não consegue reconhecer com precisão os rostos negros e o aprendizado de máquina não consegue desvendar os preconceitos humanos que afetam os dados que os alimentam, então a tecnologia claramente não tem lugar para exercer tal influência monumental sobre as pessoas.

O filme vai contra a ideia sedutora, porém perigosa, de que a tecnologia em geral é neutra e pode ser delegada a decisões difíceis. Permitir que a tecnologia tome decisões tão significativas significa abdicar da responsabilidade pelas catastróficas divisões sociais e culturais que a humanidade alimentou ao longo das gerações. Se deixarmos os computadores pensarem, mesmo que isso signifique que eles continuem cometendo os mesmos erros que cometemos, optamos por não contabilizar esses erros.

Coded Bias é um aviso essencial, mas não está aqui para mergulhar você no desespero existencial enquanto você mergulha de volta na rolagem da desgraça em seu smartphone. Buolamwini, que fundou o grupo de campanha da Algorithmic Justice League para lutar contra o preconceito nos sistemas de tomada de decisão, personifica a esperança. Ao longo do filme, ela e os cineastas procuram e unem forças com outros ativistas, muitos negros, muitas mulheres, desbastando monólitos de controle invisíveis de blocos de apartamentos e salões de cabeleireiro e laboratórios do MIT para os corredores do poder.

Se há algo a tirar do Coded Bias, é que isso precisa ser desafiado agora. Optamos por um projeto de vigilância inimaginavelmente vasto controlado por um punhado de empresas com fins lucrativos, bilionários e estados nos quais legisladores eleitos democraticamente e as próprias pessoas estão um passo atrás, e não lemos os termos e condições. Mas Buolamwini e uma liga de ativistas ao redor do mundo já afetaram uma mudança real, à medida que os gigantes da tecnologia repensam seus sistemas e os legisladores lidam com as implicações.

Documentário perspicaz Coded Bias não começa apenas com o reconhecimento facial: ele reconhece as mulheres que enfrentam o futuro.

#StreamingTVInsider #TVefilmes #Resenhasdefilmes

John Doe

Curioso e apaixonado por tecnologia.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *