Esta startup de IA quer ser o notário da Internet –

• 14 estados dos EUA implementaram leis para regulamentar deepfakes em mensagens políticas até agora neste ano eleitoral.
• O número de vídeos deepfake online aumenta em 900% anualmente, segundo a rede de serviços profissionais KPMG.
• Plataformas tecnológicas estão buscando ferramentas para combater deepfakes cada vez mais sofisticados.

Até agora neste ano eleitoral, 14 estados dos EUA implementaram leis ou disposições para regular os deepfakes, ou mídias manipuladas, em mensagens políticas. Isso é de acordo com uma análise do instituto sem fins lucrativos de lei e política, o Brennan Center, que também encontrou 151 projetos de lei abordando deepfakes e mídias enganosas em eleições que foram introduzidos ou aprovados nos EUA até 31 de julho. Eles estão mirando em um problema crescente. A rede de serviços profissionais KPMG encontrou que o número de vídeos deepfake online aumenta em 900% anualmente. Isso é significativo em um ano eleitoral quando mídias manipuladas podem ajudar a espalhar desinformação, desencorajar eleitores e minar o processo eleitoral. Empresas de tecnologia têm lançado ferramentas como o Detector Deepfake da OpenAI e o SynthID do Google para nos ajudar a identificar imagens geradas por IA e deepfakes. Mas elas estão perseguindo ferramentas de IA generativa como o Dall-E e o Sora, que podem ser usados para criar imagens e vídeos cada vez mais realistas de momentos que nunca aconteceram. O recente vídeo da vice-presidente e candidata presidencial democrata Kamala Harris é apenas um exemplo.

E à medida que essas ferramentas se tornam mais sofisticadas e amplamente disponíveis, também devem ser os instrumentos usados para combatê-las. Fundada em 2017, a Swear é uma startup focada em estabelecer um registro para mídias digitais como áudio e vídeo quando são criadas, para que seja mais fácil determinar se foram alteradas de alguma forma posteriormente. No caso de um vídeo, a Swear divide o material em quadros e então usa um algoritmo para atribuir o que é chamado de um valor de hash, ou um valor numérico único, a cada pixel e byte de som, bem como a qualquer metadados, que são dados sobre atributos do arquivo, como tempo de execução, data de criação ou localização por GPS. Esses valores numéricos também são conhecidos como impressões digitais digitais.

Crawforth compara o processo a documentar o DNA de um vídeo. Uma vez que a Swear tenha esse DNA, ele é armazenado em um blockchain, que é um banco de dados seguro que mantém registros, chamados blocos, e pode ser usado para tornar os dados imutáveis, ou incapazes de serem alterados. Se você suspeitar que o vídeo foi alterado posteriormente, Crawforth disse que a Swear pode comparar o vídeo em questão ao DNA no blockchain. Se algum elemento tiver mudado, o valor de hash será diferente, então é fácil de identificar.

“O próprio ativo não pode ser exclusivamente sua própria segurança, o que significa que, se você usar criptografia, marca d’água, chaves de criptografia pública/privada, o que for, será comprometido”, disse ele. “Talvez não hoje, mas provavelmente amanhã.” O público-alvo inclui agências governamentais e políticos, bem como forças policiais, empresas de tecnologia, organizações de notícias e sistemas de transporte em massa. A startup planeja focar primeiro na indústria de segurança e vigilância, seguida por plataformas de mídia e redes sociais. Eventualmente, a Swear espera trabalhar diretamente com fabricantes de telefones para instalar sua tecnologia nos dispositivos. “Vamos ser o tabelião da internet”, disse Crawforth. A Swear, com sede em Boise, Idaho, está no processo de levantar $ 3 milhões em uma rodada de pré-lançamento. Crawforth espera que a Swear seja adquirida antes de precisar levantar uma rodada da Série A. “Estou esperando que não tenhamos que fazer isso, mas isso depende de quão rápido queremos crescer”, disse ele.