No amplo cenário digital, muitas pessoas estão preocupadas com uma forma intrigante de manipulação de conteúdo audiovisual: os Deepfakes. Essa tecnologia desafia os limites entre o real e o fictício, se infiltrando na internet por meio de redes sociais e chamando a atenção dos usuários.. Nesse contexto, é essencial entender não apenas o fenômeno dos Deepfakes, mas também a sofisticada tecnologia conhecida como aprendizado profundo ou Deep Learning.

Os Deepfakes, que vão desde manipulações de imagens até vídeos falsificados e têm sido usados em uma variedade de contextos, desde entretenimento até campanhas de desinformação em grande escala. 

Este artigo tem como objetivo ser uma fonte de esclarecimento dessa tecnologia. Não se limita apenas a definir o conceito por trás dessas criações digitais, mas também mergulhará nas complexidades da tecnologia de Deep Learning.

Um Deepfake é uma gravação de vídeo ou áudio falso e realista, que foi criado ou alterado usando Inteligência Artificial (IA). Com o Deepfake é possível substituir de forma muito convincente o rosto ou a voz de uma pessoa por outra, o que permite brincar com a mídia sintetizada ou disseminar informações falsas com intenções maliciosas.

Embora os meios digitais falsos sempre tenham existido, os Deepfakes são um fenômeno completamente moderno. Ao contrário de fotos falsas criadas e manipuladas por meio do Photoshop, os Deepfakes são fabricados por ferramentas que utilizam IA. O uso desse tipo de manipulação de vídeo sofisticada está se tornando cada vez mais comum em ataques de pharming, o que dificulta a proteção contra roubo de identidade.

A prática conhecida como “pharming” consiste em usar Deepfakes de maneira maliciosa para enganar e manipular pessoas. Isso pode envolver a propagação de informações falsas, a criação de conteúdo prejudicial ou difamatório, ou até mesmo a manipulação de eventos e situações para atingir objetivos específicos, como influenciar eleições, prejudicar a reputação de indivíduos ou empresas, ou semear discórdia social.

A palavra “Deepfake” é uma combinação das palavras “Deep learning” e “fake”. “Deep” refere-se à aprendizagem profunda (Deep learning), um método que treina computadores para pensar de forma natural como um cérebro humano. E “fake”,falso em inglês, destaca a natureza enganosa dos Deepfakes.

Para desenvolver um Deepfake, é preciso ter um grande conjunto de imagens da pessoa em questão, fornecido às redes de computadores que utilizam Deep learning, especificamente autoencoders variacionais (VAEs). O objetivo é treinar essas redes para capturar uma ampla variedade de características, como diferentes expressões faciais, posições e nuances emocionais. Isso permite que a IA identifique quais elementos visuais são únicos e essenciais que podem ser substituídos. 

O processo de criação pode ser resumido da seguinte forma:

Primeiramente, a IA recebe dois conjuntos de imagens: o conjunto de origem (Pessoa A) e o conjunto de destino do Deepfake (Pessoa B). Esses conjuntos podem ser compostos por rostos aleatórios ou imagens de uma pessoa específica.

Fonte: avast.com

Em seguida, a IA produz as imagens de saída, utilizando os elementos sutis das expressões que são únicas e essenciais para o Deepfake. Para ser convincente, a IA deve manter as nuances da personalidade e dos movimentos faciais que ocorrem naturalmente e são exclusivos do indivíduo alvo.

Fonte: avast.com

Para criar o Deepfake em si, a IA combina os dois conjuntos de imagens de entrada. Os dados de saída da pessoa original são processados pela IA e combinados com os dados faciais da pessoa alvo do Deepfake. O codificador reconstrói os movimentos e expressões emocionais da Pessoa A com o rosto da Pessoa B. Esse processo é realizado quadro a quadro para garantir a fluidez e a autenticidade.

O Deep learning é uma das tecnologias mais importantes de Machine Learning. Com o Deep Learning, estamos nos referindo a algoritmos que conseguem imitar as funções do cérebro humano através de redes neurais artificiais. Essas redes são formadas por dezenas ou até centenas de “camadas” de neurônios, onde cada uma recebe e processa informações da camada anterior.

Vamos exemplificar o conceito com um problema de classificação de cães e gatos em uma imagem. Durante o treinamento, o algoritmo vai ajustar os pesos dos neurônios para diminuir a diferença entre os resultados obtidos e os esperados. O modelo será capaz de aprender a identificar triângulos em uma imagem, já que os gatos têm mais orelhas triangulares do que os cães. Os Deep Learning funcionam bem com uma grande quantidade de dados, ao contrário dos modelos de Machine Learning mais tradicionais, que param de melhorar após um certo ponto.

Os Deepfakes têm mostrado um potencial significativo em várias áreas, oferecendo oportunidades para utilização positiva e criativa. Em termos de entretenimento e arte, eles têm sido explorados na criação de conteúdo envolvente, como filmes e vídeos virais, permitindo a recriação de momentos históricos ou interações entre figuras do passado e do presente.

No ano de 2019, o museu em São Petersburgo (Flórida, EUA) celebrou os 115 anos do nascimento do famoso artista espanhol Salvador Dalí de uma maneira muito especial. Eles criaram um Deepfake do artista para se comunicar e interagir com os visitantes do museu. Utilizando IA, foram utilizados cerca de 6 mil frames retirados de filmes com o próprio Dalí, resultando em uma experiência única. Além disso, a IA também foi programada com aproximadamente 190 mil combinações de conversas, tornando a interação ainda mais interessante.

Portanto, à medida que exploramos o mundo dos Deepfakes, devemos fazê-lo com uma consciência crítica e uma abordagem equilibrada. Não podemos ignorar os desafios éticos e de segurança associados aos Deepfakes. O potencial para disseminação de desinformação, manipulação e violação da privacidade são preocupações legítimas que exigem atenção. É fundamental que avanços tecnológicos sejam acompanhados por medidas regulatórias para mitigar esses riscos, somente assim podemos aproveitar seu potencial positivo enquanto protegemos contra seus possíveis abusos. Ao fazê-lo, podemos construir um ambiente digital mais seguro e inclusivo para todos. Para saber as medidas preventivas que estão sendo tomadas no brasil, leia o artigo “Regulamentação das Diretrizes sobre o uso da IA nas eleições de 2024”