Quando o reconhecimento facial está em toda parte, qualquer coisa que você fizer é um jogo justo para humilhação e punição pública.
Os defensores do reconhecimento facial nos EUA costumam argumentar que a tecnologia de vigilância é reservada para os maiores riscos – para ajudar a lidar com crimes violentos, ameaças terroristas e tráfico humano. E embora ainda seja frequentemente usado para pequenos crimes, como furtos em lojas, roubo de mercadorias no valor de US$ 12 ou venda de drogas no valor de US$ 50, seu uso nos EUA ainda parece inofensivo em comparação com o quão amplamente implantado o reconhecimento facial foi na China.
O sistema de reconhecimento facial da China registra quase todos os cidadãos do país, com uma vasta rede de câmeras em todo o país. Um vazamento de banco de dados em 2019 deu uma ideia de quão difundidas são as ferramentas de vigilância da China – com mais de 6,8 milhões de registros de um único dia, tirados de câmeras posicionadas em hotéis, parques, pontos turísticos e mesquitas, registrando detalhes sobre pessoas com até 9 anos. dias de idade.
O governo chinês é acusado de usar o reconhecimento facial para cometer atrocidades contra muçulmanos uigures, contando com a tecnologia para realizar “o maior encarceramento em massa de uma população minoritária no mundo hoje”.
“A China usa o reconhecimento facial para traçar o perfil dos indivíduos uigures, classificá-los com base em sua etnia e separá-los para rastreamento, maus-tratos e detenção”, disse um grupo bipartidário de 17 senadores em uma carta ao secretário de Estado Mike Pompeo em março. 11. “E essas tecnologias são implantadas a serviço de uma visão distópica de governança tecnológica, que aproveita os benefícios econômicos da internet na ausência de liberdade política e vê as empresas de tecnologia como instrumentos do poder do Estado.”
O desenvolvimento agressivo e o uso de reconhecimento facial da China oferecem uma janela para como uma tecnologia que pode ser benigna e benéfica – pense no Face ID do seu iPhone – também pode ser distorcida para permitir uma repressão a ações que a pessoa comum pode nem considerar um crime. As autoridades chinesas usaram ferramentas de vigilância para envergonhar publicamente as pessoas que usam pijamas em público, chamando isso de “comportamento incivilizado”.
A punição dessas ofensas menores é planejada, disseram especialistas em vigilância. A ameaça de humilhação pública por meio do reconhecimento facial ajuda as autoridades chinesas a direcionar mais de um bilhão de pessoas para o que considera um comportamento aceitável, desde o que você veste até como atravessa a rua.
“A ideia é que as autoridades estão tentando implementar vigilância abrangente e engenharia comportamental em grande escala”, disse Maya Wang, pesquisadora sênior da China no Human Rights Watch. “As autoridades querem criar um tipo de sociedade que seria muito fácil para eles administrarem.”
engenharia comportamental
A ideia de que o reconhecimento facial da China colocaria automaticamente seu nome e foto em um outdoor para quem está passeando na rua e enviaria uma multa em particular instila medo nas pessoas de se comportarem de determinada maneira, disse Wang.
A tecnologia muitas vezes teve essa capacidade de afetar o comportamento, mesmo fora da China.
A engenharia comportamental é o conceito de combinar tecnologia e psicologia para levar as pessoas a agir de uma determinada maneira, e é algo que vemos todos os dias. É evidente em “padrões obscuros”, designs de interface como botões ocultos de exclusão que induzem as pessoas a fornecer seus dados pessoais, por exemplo.
Mas há uma diferença fundamental em como a engenharia comportamental é realizada nos EUA em comparação com a China e seu reconhecimento facial.
“Nos Estados Unidos, isso é expresso de maneira comercial, enquanto na China é um esforço estatal”, disse Wang. “A dinâmica é diferente e a quantidade de energia é diferente, mas tem semelhanças impressionantes.”
Nos Estados Unidos, a engenharia comportamental pode ser feita por meio da coleta de dados sobre as pessoas e envio ou exclusão de conteúdo para elas com base em traços de personalidade previstos.
O escândalo do Facebook em 2018 com a Cambridge Analytica resultou do fato de que a agora extinta empresa de análise de dados do Reino Unido usou dados de milhões de pessoas para direcionar a publicidade que influenciaria as pessoas a votar de uma determinada maneira.
Os esforços de interferência da Rússia nas eleições americanas de 2016 envolveram o uso do Facebook para criar grupos divisivos e organizar eventos nos quais as pessoas apareciam para protestar. Essas postagens seriam direcionadas a grupos policiais ou especificamente a falantes de espanhol, por exemplo.
Embora esse tipo de engenharia comportamental seja voltado principalmente para a venda de produtos e lucros, o impulso da China é mais para incutir medo e controle sobre sua população – e o reconhecimento facial desempenha um papel fundamental nisso.
“Isso condiciona a ideia de ‘é assim que a sociedade funciona’, de que você está sempre sendo observado”, disse Jake Laperruque, conselheiro sênior do Constitution Project. “Parece tentar reforçar para as pessoas que ‘estamos observando o tempo todo, se você fizer alguma coisa para nos irritar, veremos e encontraremos uma maneira de envergonhá-lo’.”
Histórico da China
Na China, ninguém está a salvo do reconhecimento facial ou da vergonha pública que o acompanha.
Câmeras instaladas nas faixas de pedestres para identificar e postar fotos de pedestres são comuns, e um relatório da Abacus em maio de 2019 mostrou fotos de crianças caminhando em um outdoor digital. A polícia de trânsito local disse que “as crianças devem ser tratadas da mesma forma que os adultos”, de acordo com o veículo.
Um parque chinês também conta com o reconhecimento facial para evitar que as pessoas peguem muito papel higiênico, escaneando o rosto das pessoas antes de distribuir os rolos.
“É uma espécie de sistema de ‘vale tudo’, não importa o quão pequeno seja”, disse Laperruque, do Projeto de Constituição. “Qualquer tipo de ofensa vale para esse tipo de tecnologia.”
E enquanto nos EUA o reconhecimento facial está passando por um acerto de contas devido ao seu viés racial e preocupações com os direitos humanos, na China, os fornecedores da tecnologia de vigilância se gabam de sua capacidade de destacar pessoas de diferentes etnias.
“Não há nenhum espaço permitido, tanto online quanto offline, para discutir preconceito racial e a perseguição de minorias na China.” Maya Wang, pesquisadora sênior da China no Human Rights Watch
Em novembro passado, o IPVM descobriu que a empresa de vigilância chinesa Hikvision comercializou que suas câmeras poderiam identificar automaticamente os muçulmanos uigures com seu reconhecimento facial.
Há resistência ao reconhecimento facial nos EUA porque os pesquisadores são capazes de trazer à tona suas preocupações sobre o viés racial da tecnologia, mas não há escrutínio semelhante na China, disseram os pesquisadores.
As taxas de precisão do reconhecimento facial da China não são contestadas, mesmo quando acidentalmente pega uma pessoa em um anúncio de ônibus e a considera um transeunte.
“Os americanos podem falar sobre desigualdades raciais sem medo”, disse Wang, da Human Rights Watch. “Esses sistemas não são discutidos ou rejeitados na China. Não há nenhum espaço permitido, tanto online quanto offline, para discutir preconceito racial e a perseguição de minorias na China.”
Reconhecendo a influência
O modelo de reconhecimento facial da China, desde a vigilância opressiva dos muçulmanos uigures até o controle diário de uma população de 1,4 bilhão de pessoas, também representa uma preocupação para a comunidade internacional, disseram legisladores dos EUA.
Em setembro passado, o Carnegie Endowment for International Peace descobriu que a China era um importante fornecedor de vigilância AI, fornecendo a tecnologia para 63 países.
Em abril, a Reuters informou que a Amazon comprou câmeras da Dahua, uma empresa de vigilância chinesa incluída na lista negra dos EUA por alegações de que ajuda a China a deter e monitorar muçulmanos uigures.
O acordo de US $ 10 milhões foi para 1.500 câmeras para ajudar a monitorar a propagação do COVID-19, de acordo com o relatório.
Na carta dos senadores em 11 de março, eles levantaram questões sobre a influência da China sobre como o reconhecimento facial deve ser usado quando é o principal exportador da tecnologia.
Wang observou que, embora o reconhecimento facial seja frequentemente uma subsidiária de gigantes da tecnologia dos EUA, como Rekognition da Amazon ou Microsoft, na China, existem várias empresas que já dominam o setor. A aceitação do estado de vigilância pelo país permite que os provedores de reconhecimento facial avancem com a tecnologia, mesmo para os usos mais triviais.
Com esse nível de influência, há preocupações de que o modelo chinês de como usar o reconhecimento facial – uma rede ampla projetada para vergonha e controle público – possa se espalhar para o resto do mundo.
“Infelizmente, a China indicou a disposição de usar órgãos de definição de padrões de maneiras perversas para normalizar as opiniões globais sobre a tecnologia de vigilância orwelliana”, disse o grupo de legisladores. “Ao moldar o debate sobre os usos legítimos de inteligência artificial e reconhecimento facial, a China pode expandir as oportunidades para os países, principalmente os do mundo em desenvolvimento, de utilizar a tecnologia de vigilância chinesa”.