Eleições nos EUA sob ameaça: CloudSEK destaca preocupações com o Deepfake

À medida que navegamos na era digital, o surgimento dos deepfakes — mídias realistas geradas por inteligência artificial que podem alterar aparências e vozes com uma precisão surpreendente — apresenta possibilidades empolgantes e desafios profundos. Neste blog, exploraremos o fascinante mundo dos deepfakes, desde seus fundamentos técnicos até suas implicações para a privacidade, a ética e a sociedade em geral. Também discutiremos como os Deepfakes estão sendo usados indevidamente nas eleições dos EUA para benefícios políticos e pessoais.

Se você é um entusiasta da tecnologia, um cético ou simplesmente curioso sobre o cenário em evolução da mídia digital, o Deepfake Digest é seu recurso essencial para entender o futuro da realidade sintética.

Deepfakes - Uma introdução

Os deepfakes são um tipo de mídia gerada por inteligência artificial que usa técnicas de aprendizado de máquina para criar imagens, vídeos ou gravações de áudio altamente realistas, mas totalmente sintéticos. O Adobe Photoshop nos anos 90 iniciou a tendência de sobrepor rostos sobre imagens originais.

Com o advento da IA, modelos treinados improvisaram para gerar vídeos. Eles são mais convincentes e têm mais potencial para enganar as pessoas. Vídeos de personalidades eminentes como Barack Obama e Gal Gadot em 2017-18 reivindicados por um usuário do reddit — o Sr. Deepfakes.

‍

‍

Nas eleições em andamento nos EUA, surgiu uma imagem de Taylor Swift e seus seguidores, mostrando total apoio ao candidato republicano Donald Trump. Rapidamente, a Internet descobriu que era um pouco suspeito e a busca começou. Casas de mídia como 'The Guardian', 'BBC', 'Al-Jazeera' publicaram a notícia, confirmando que as imagens foram geradas por IA. Mais tarde, Taylor Swift confirmou que a imagem na verdade não era dela.

Uso do Deepfake nas eleições dos EUA

1. Donald Trump Gold Badge - Como os golpistas estão usando o deepfake para manipular cidadãos dos EUA

Eventos importantes, como as Olimpíadas de 2024, o conflito Rússia-Ucrânia ou o tema atual, as eleições nos EUA, esses eventos geralmente atraem a atenção de cidadãos comuns. Esses eventos também atraem golpistas, que encontram vários métodos para enganar os cidadãos em busca de uma oportunidade de crescer.

Um desses eventos foi identificado no Facebook e no Instagram, de 6 a 7 de setembro de 2024. Os vídeos agora estão circulando sem conteúdo falso profundo, apenas áudio. Último vídeo visto em 18-19 de outubro.

‍

‍

Como parte deste anúncio, um vídeo promocional de uma pesquisa que oferece moedas de ouro “Trump Fight for America” gratuitas para qualquer pessoa que responda à enquete de uma pergunta. O vídeo incentiva as pessoas a participarem e ajudarem Donald Trump a vencer a eleição. O vídeo não é afiliado ou endossado por Donald Trump ou por qualquer partido político associado a ele.

O vídeo, que parecia autêntico inicialmente, ficou sob suspeita devido aos movimentos incomuns da âncora, e nele foi compartilhada uma oferta altamente tentadora, quero dizer, quem doaria moedas de ouro por participar de uma enquete.

Enquanto investigávamos o vídeo, nossas suspeitas se mostraram corretas, pois o analisador de vídeo detectou novamente grandes discrepâncias no vídeo. Aqui está o que dizia

‍

‍

Curiosamente, o link compartilhado junto com o vídeo, aceita anúncios do Facebook como origem e, se copiado e acessado em uma nova guia, redireciona para uma página de estacionamento. Link original mostrado abaixo

‍

‍

Domínio que foi registrado no mês de abril de 2024 por uma organização com sede em Islândia, publica cuidadosamente de 5 a 10 vídeos por mês para evitar detecções.

‍

‍

Para criar um senso de urgência, o site fala sobre estoque limitado e alta demanda, além de coletar detalhes do cartão.

‍

‍

2. Deepfakes do debate presidencial

‍

Na imagem acima, vemos um identificador X (@SouSanDiego) compartilhando um vídeo do debate em andamento no qual Donald Trump é visto abusando de Kamala Harris durante os pontos de ação fornecidos por ela, o que ela planeja fazer. O vídeo, que parecia ter apenas os atributos faciais de Donald Trump manipulados, circulou por várias alças X, com a questão de ser um deepfake ou não.

O analisador Deepfake da Cloudsek identificou os atributos faciais manipulados de maneira incomum, especificamente para Donald Trump. Aqui está o que nosso analisador tinha a dizer:

‍

‍

3. Donald Trump abusando de cidadãos e dando declarações extremas

‍

Outro exemplo que retrata o uso de Deepfakes nas eleições de 2024 dos EUA foi compartilhado por um identificador no X, em que o ex-presidente Donald Trump é visto fazendo uma declaração sobre o quão bom presidente ele é. Ele fala sobre como está fazendo o melhor que pode pela América e que as pessoas não deveriam acreditar nas notícias falsas que tentam fazer com que ele fique mal. Ele também chama alguns de seus oponentes. Novamente, a suspeita cresceu e decidimos rodar o vídeo pelo Deepfake Analyzer da CloudSek, no qual, corretamente, o vídeo foi marcado como resultado da mistura de vídeo antigo com sincronização labial.

‍

4. A opinião de Elon Musk sobre o debate presidencial, que levou a um golpe criptográfico - Double

Ao investigar como os agentes de ameaças estão tentando influenciar as eleições dos EUA, também pesquisamos a conhecida plataforma de compartilhamento de vídeos - YouTube (@Tesla -p2x). E para nossa surpresa, nós da CloudSek descobrimos um vídeo ao vivo de Elon Musk sendo compartilhado em diferentes canais, onde ele é visto compartilhando suas opiniões sobre os candidatos presidenciais - Donald Trump e Kamala Harris.

Sobre este vídeo estava um código de scanner, para um site - muskdebate [.] io

‍

‍

Esse URL de origem, marcado como um site potencialmente de phishing, é visto promovendo o investimento em criptomoedas e promissor (2X) em moeda criptografada, se acessado por meio do URL mencionado.

Ao investigar o vídeo por meio do analisador de vídeo CloudSEK, veja o que ele disse:

‍

‍

5. O ex-presidente Barack Obama e os perigos da manipulação do Deepfake

Durante a investigação por meio dos canais do Telegram, identificamos um vídeo muito importante do ex-presidente Barack Obama. Barack Obama fala sobre a importância de estar atento ao que você confia na Internet, especialmente na era da informação. Ele diz que seus inimigos podem fazer parecer que alguém está dizendo alguma coisa a qualquer momento, mesmo que nunca digam essas coisas. Ele dá o exemplo de como eles poderiam fazer com que ele dissesse coisas como “Killmonger estava certo” ou “Ben Carson está no submundo” para espalhar desinformação. Obama enfatiza a necessidade de confiar em fontes de notícias confiáveis e ficar acordado.

‍

Análise do CloudSEK Video Analyzer: O vídeo pode ter uma mistura de componentes criados por humanos com componentes gerados por IA.

Resumo:

Os DeepFakes — mídias sofisticadas geradas por inteligência artificial que alteram de forma convincente o conteúdo de vídeo e áudio — representam uma ameaça significativa à integridade das eleições nos EUA. Esses materiais manipulados podem fabricar declarações, atribuir ações incorretamente e criar narrativas falsas, distorcendo a percepção pública e potencialmente influenciando o comportamento dos eleitores. O perigo não está apenas na disseminação da desinformação, mas também no potencial de corroer a confiança nas instituições democráticas e nas fontes de mídia. À medida que a tecnologia deepfake avança, fica cada vez mais difícil distinguir entre conteúdo genuíno e falsificado, levantando preocupações sobre a resiliência dos processos eleitorais contra a manipulação digital.

A tecnologia de detecção Deepfake da CloudSEK surge como um ativo crucial no combate a essa ameaça. Aproveitando algoritmos de detecção de ponta e aprendizado de máquina. Ele examina anomalias nas expressões faciais, modulação da voz e outras irregularidades sutis que geralmente passam despercebidas.

Ao fornecer análise e verificação em tempo real, a tecnologia de detecção de Deepfake da CloudSEK ajuda autoridades eleitorais, organizações de mídia e o público a identificar e tratar deepfakes rapidamente. Essa capacidade é vital para preservar a credibilidade das informações e garantir que os processos eleitorais permaneçam justos e transparentes em face da evolução das ameaças digitais.