Imagem para topo de blog do tema Deepfake

Deepfake: não acredite em tudo que você vê

Tempo de leitura
4
m

Não bastavam a fake news, agora temos o Deepfake. Eles viralizaram nas eleições americanas de 2016 e surpreenderam o mundo da internet. Mas o que é isso?

Deepfake são vídeos falsos feitos por inteligência artificial. Ela substitui rostos e vozes em vídeos tão reais quanto ver um programa ao vivo. Veja o vídeo que a Buzzfeed fez com o diretor e ator Jordan Peele imitando a voz e fazendo os movimentos do ex-presidente Barack Obama:

Impressionante não? Pois é, isso é o futuro!

Esses efeitos especiais de troca de rostos não são novidades, o Snapchat começou com os filtros em sua plataforma, câmeras digitais antigas tinham o detector de rostos e o cinema faz isso há muitos anos. Porém, a grande característica do Deepfake está em como ele pode ser produzido.

Hoje, qualquer um tem acesso a algoritmos que utilizam deep learning, um bom processador e acervos de imagens para criar um vídeo convincente. Aplicativos gratuitos, como FakeApp, também estão disponíveis para criar os vídeos com mais facilidade.

// Como é feito um Deepfake?

Utilizando o método gratuito, os softwares são baseados em aprendizado de máquina. O indivíduo basicamente fornece um banco de imagens e vídeos do rosto da pessoa do vídeo principal e outro banco da pessoa que ela quer que o rosto se sobreponha.

Então, o programa faz uma análise completa de todas as imagens e vídeos dos dois e tenta traçar um ponto em comum entre os dois rostos. Achado esse ponto, basta colocar uma face sobre a outra.

Porém os vídeos podem ser criados com plataformas conhecidas e pagas, como o Adobe Voco, o “Photoshop para a voz”. Ele cria falas com a voz de uma pessoa, a partir de amostras reais.

O Voco usa um algoritmo que analisa a fala e converte para texto. Com quase 40 minutos de fala, o programa cria quase todos os sons que a pessoa falaria, depende da língua. Provavelmente foi usado pelo Saturday Night Live no vídeo acima.

// Pontos negativos

Os Deepfakes estão sendo utilizados em conteúdos adultos com rostos de celebridades ou pessoas anônimas. Com a manipulação das imagens, essa ferramenta impulsiona também o “pornô de vingança”, quando um(a) ex divulga vídeo íntimo do antigo parceiro(a). E até agora não sabemos o que a justiça pode fazer a respeito.

Porém, um dos maiores problemas até agora é o uso dos rostos de políticos utilizando falas que não são deles, como o vídeo do Obama acima. Esses vídeos falsos se tornaram uma forma muito efetiva de propagar fake news e é bom lembrar que estamos em ano de eleição no Brasil!

Os políticos são alvos fáceis porque estão sempre na frente das câmeras e a posição que eles permanecem é fácil para controlar. Em pé no pódio ou sentado em uma entrevista, poucos movimentos facilitam a manipulação do vídeo.

Até a Universidade de Washington fez um estudo e produziu um algoritmo muito eficaz para a produção de Deepfakes, novamente usando o Obama como modelo. No artigo eles explicam passo a passo a criação do vídeo perfeito.

// Pontos positivos

Além de colocar o Nicolas Cage em todos os filmes e vídeos existentes, o Deepfake é um exemplo da evolução de algoritmos e machine learning.

Com esses avanços, o reconhecimento e reconstrução facial ganham um potencial enorme. A Apple e a Samsung já fazem isso com o mapeamento dos rostos para criarem emojis. O Instagram e o Snapchat também possuem filtros para os rostos dos usuários, inclusive o filtro de troca de rostos.

Os produtores independentes de conteúdos audiovisuais também podem se beneficiar. Utilizando os apps não precisa de um grande orçamento e os efeitos especiais podem ser feitos com facilidade.

Em entrevista ao site Mashable, o Diretor da MultiComp Lab (laboratório de machine learning), Dr. Louis-Philippe Morency, afirmou que essa tecnologia pode ser usada para terapia. O paciente que não é confortável para consultas cara a cara (inclusive via videoconferência) pode trocar de rosto com um modelo que expresse suas emoções.

Outra questão são entrevistas de emprego. O entrevistado pode usar esse mesmo modelo da terapia, assim retirando a possibilidade de escolha por raça ou gênero ao contratar um funcionário.

// Tem como reconhecer um Deepfake?

Hoje os vídeos ainda estão em evolução, ou seja, se você prestar bem atenção existem alguns detalhes que entregam. Normalmente nos movimentos da boca, para os vídeos feitos por apps gratuitos, os movimentos de respiração e o piscar de olhos também podem revelar que é um Deepfake.

Se a pessoa é conhecida, o tom de voz as vezes pode soar estranho, então busque outras fontes para ver se a voz é real ou não. Os algoritmos podem ter dificuldades para encaixar todas as partes do rosto, então movimentos faciais falsos podem ser fáceis de perceber.

Porém, para o futuro não sabemos. Se até robôs não iremos conseguir diferenciar, imagine vídeos!

Uma alternativa é criar uma inteligência artificial “x9” para entregar a IA que produz Deepfakes. Ou até mesmo, estocar os vídeos originais em uma blockchain, assim eles não vão poder ser alterados sem consentimento de quem adicionou o vídeo.

As Deepfakes podem trazer um avanço enorme para nossa sociedade, entretanto, também há contras. “Com grandes poderes, vem grandes responsabilidades” – Homem-Aranha.

Qual a sua opinião quanto ao Deepfake? Comente aqui!