Tem havido muitos alertas, inclusive do Presidente Joe Biden, sobre como a IA gerativa pode ser usada para manipular áudio e vídeo para criar deepfakes que mostram pessoas – políticos entre eles – dizendo ou fazendo coisas que na verdade não disseram ou fizeram.
No caso de Taylor Swift, deepfakes mostraram a cantora promovendo panelas e panelas caras da marca Le Creuset, mas era tudo falso e levava a sites de golpe. Já Elon Musk foi mostrado em vídeo deepfake promovendo um esquema de trading falso para atrair australianos atraídos por “ficar ricos rápido”.
Celebridades estão tendo suas imagens e vozes usadas em golpes e fraudes, infelizmente. A Comissão Federal de Comércio diz que as pessoas perderam quase US$ 8,8 bilhões para fraudes em 2022. E a tecnologia de IA torna mais fácil a criação de deepfakes convincentes, como os feitos para Taylor Swift e Elon Musk.
Além disso, deepfakes também já foram feitos do chef Gordon Ramsay, Oprah Winfrey e Tom Hanks, todos sendo usados para aplicar golpes. O Better Business Bureau emitiu um alerta em abril pedindo que as pessoas fiquem atentas a propagandas de celebridades, já que a IA torna esses deepfakes cada vez mais realistas.