Um dos benefícios da tecnologia de IA gerativa é sua capacidade de linguagem natural. Isso significa que você não precisa ser um programador, engenheiro ou cientista para “conversar” com um chatbot de IA gerativa e solicitar a criação de texto, ilustrações e outras imagens, vídeo, áudio, fotografias e mesmo código de programação em segundos.
Mas a “mágica” aqui tem um lado negro, incluindo vieses, alucinações e outros problemas com como as próprias ferramentas funcionam. Existe também um problema crescente com pessoas que aproveitam essas poderosas ferramentas de IA gerativa fáceis de usar para criar fotos ou vídeos deepfake com o objetivo de enganar, confundir ou simplesmente mentir para uma audiência destinada.
Nesta semana, temos exemplos de ambos. Primeiro: Apenas uma semana após o gerador de texto-imagem Gemini da Google ter que interromper as atividades porque estava fornecendo imagens ofensivas, embaraçosas e enviesadas – o CEO da Google, Sundar Pichai, enviou a ferramenta de volta para testes depois de dizer que os resultados eram “totalmente inaceitáveis” – a Microsoft agora está lidando com problemas em seu gerador de IA Copilot Designer. Esse mapeamento vem depois que um engenheiro da empresa escreveu para a Comissão Federal de Comércio expressando preocupações sobre imagens perturbadoras e violentas criadas pela ferramenta.
O segundo exemplo tem a ver com pessoas que criam imagens falsas com IA. Nessa semana, refere-se aos apoiadores do ex-presidente Donald Trump, que criaram fotos que retratam o agora candidato presidencial cercado por eleitores negros falsos como parte de campanhas de desinformação para “incentivar os afro-americanos a votarem nos republicanos”, informou a BBC após investigar as fontes das imagens fabricadas.
Um dos criadores das fotos falsas, o apresentador de rádio da Flórida Mark Kaye, disse à BBC que “ele não sai por aí tirando fotos do que realmente está acontecendo” e que se os eleitores dos EUA fossem influenciados a acreditar que devem votar em Trump com base em fotos que o retratam com supostos eleitores negros, cabe a eles se sentirem enganados. “Se alguém vai votar de um jeito ou de outro por causa de uma foto que vê em uma página do Facebook, o problema é com essa pessoa, não com a própria postagem”, disse Kaye ao BBC.
As imagens começaram a aparecer conforme Trump “busca conquistar os eleitores negros que as pesquisas mostram continuam leais ao presidente Joe Biden”, informou o Los Angeles Times. “As imagens fabricadas… fornecem evidências adicionais para apoiar os alertas de que o uso de imagens geradas por IA só aumentará à medida que se aproxima a eleição geral de novembro.” Surpreendente? O Centro para o Combate ao Ódio Digital publicou um relatório chamado “Fábricas de Imagens Falsas” que descobriu que ferramentas populares de geração de imagens por IA “criam desinformação eleitoral em 41% dos casos, incluindo imagens que poderiam apoiar afirmações falsas sobre candidatos ou fraude eleitoral.”