- Deepfakes estão se tornando cada vez mais convincentes graças à inteligência artificial.
- A empresa de segurança McAfee lançou um detector de deepfakes para alertar os consumidores.
- O detector de deepfakes da McAfee analisa o áudio dos vídeos para identificar possíveis deepfakes.
Deepfakes avançaram muito no último ano, tornando cada vez mais difícil para a pessoa comum distinguir o que é real e o que não é. Graças ao poder da inteligência artificial, hackers e outros podem produzir deepfakes de áudio, vídeo e fotos estáticas de forma surpreendentemente convincente e mais rápida do que nunca. E especialistas dizem que essas criações podem ser usadas para desde enganar consumidores até influenciar a opinião pública antes de uma eleição.
Embora grande parte desse problema decorra do avanço da inteligência artificial, a empresa de software de segurança McAfee diz que a solução pode estar na própria inteligência artificial. O Detector de Deepfake da McAfee, anunciado na quarta-feira, alertará os consumidores sobre possíveis deepfakes que podem encontrar ao navegar na internet ou visualizar postagens em suas redes sociais. O detector de deepfakes da McAfee aponta possíveis sinais de um vídeo falso. A ferramenta será lançada nos PCs Copilot-Plus da Lenovo a partir de hoje. Assim como o software antivírus pelo qual a McAfee é conhecida, será um serviço pago. Os consumidores que optarem por usá-lo terão direito a um teste gratuito de 30 dias. Depois disso, os planos começam em US$9,99 para o primeiro ano.
Enquanto o detector será alimentado por inteligência artificial, todo o processamento será feito no dispositivo, tanto para garantir a privacidade quanto para impedir problemas de latência que podem ocorrer ao enviar dados para a nuvem, diz Steve Grobman, vice-presidente executivo e diretor de tecnologia da McAfee. Os dados dos consumidores não serão coletados e as atualizações da inteligência artificial da ferramenta virão da equipe de pesquisa da empresa. “Nós realmente queríamos fornecer aos nossos clientes um conjunto de ferramentas para ajudá-los a identificar se algo é potencialmente gerado por IA”, diz Grobman. “Mas também queríamos ser muito cautelosos com questões como privacidade e experiência do usuário.”
Também, como um antivírus, o detector foi projetado para funcionar silenciosamente em segundo plano. Mas se detectar algo questionável enquanto o usuário navega em sites ou assiste vídeos em suas redes sociais, haverá uma notificação pop-up. Os usuários podem então escolher se ignoram ou clicam para mais informações. Neste momento, a ferramenta analisa apenas o áudio do vídeo, então o detector não será ativado se alguém estiver apenas rolando seu Instagram ou Twitter sem som. E ele não pode dizer se as fotos são deepfakes. As capacidades da ferramenta eventualmente serão expandidas para fazer essas coisas, diz Grobman. Mas a McAfee decidiu começar com o áudio, pois muitos deepfakes usam vídeos reais, mas quase sempre possuem áudio falso. E, embora o detector esteja disponível apenas nos novos computadores Lenovo por enquanto, Grobman diz que é compatível com certos tipos de processadores Intel e Qualcomm, o que poderia permitir disponibilidade futura em outros tipos de PCs e dispositivos móveis.
A ideia é educar as pessoas sobre o que estão vendo. Como parte desse esforço, a McAfee também está lançando seu Hub de IA Inteligente, um site onde os consumidores podem aprender tudo sobre inteligência artificial e tecnologia deepfake. Embora você possa pensar que convencer os consumidores a pagar US$10 por ano por algo assim pode ser uma venda difícil, Grobman argumenta que não é muito diferente de pagar por software para manter seu computador livre de vírus. Ele observa que deepfakes estão sendo cada vez mais usados em golpes online, citando um vídeo deepfake famoso que fez parecer que a megaestrela Taylor Swift estava endossando uma oferta de US$10 em frigideiras Le Creuset. Nesse tipo de golpe, não há malware para o software de segurança detectar, e nada impede aqueles que caírem nele de enviar seu dinheiro, criptomoeda ou informações pessoais.
“Mas se conseguirmos ajudar a avisar um usuário de que, ‘Ei, isso provavelmente foi gerado por IA’, uma lâmpada pode se acender para alguns deles”, diz ele. “Talvez eles economizem seus 10 dólares.”