domingo, 16 de fevereiro de 2020

Deepfakes - O que é, usos e críticas

 Deepfake, uma siglonimização de "deep learning" (aprendizagem profunda em inglês) e "fake" (falso em inglês), é uma técnica de síntese de imagens ou sons humanos baseada em técnicas de inteligência artificial. É mais usada para combinar a fala qualquer a um vídeo já existente (exemplo: combinar um vídeo qualquer de Barack Obama com a fala "O programa Obamacare não foi uma boa ideia"). A técnica de aprendizado de máquina mais utilizada para criação de vídeos falsos é a chamada Rede Generativa Adversarial.

Vídeos criados via deepfake foram muito utilizados para criar falsos vídeos de caráter sexual de celebridades, ou falsos vídeos de pornografia de vingança. A pornografia de deepfake foi muito utilizada em 2017, particularmente em fóruns do reddit, e tem sido banido de sites incluindo Reddit, Twitter e Pornhub. Deepfakes também podem ser utilizadas para gerar notícias falsas, como o exemplo na definição, e embustes maliciosos.

Vídeos não pornográficos criados por deepfakes podem ser facilmente encontrados em sites de streaming como o Youtube. Um aplicativo famoso de manipulação de vídeos e imagens é o FakeApp. o qual utiliza o framework de aprendizagem de máquina TensorFlow, desenvolvido pela Google, para as desejadas criações. Outro aplicativo mais recente é o Deep Voice, porém a ideia do programa é clonar a voz original do orador.

Técnicas para gerar gestos faciais falsos e renderização de imagens em vídeos alvos para que uma pessoa alvo ficasse parecida com a pessoa de entrada, foram apresentadas em 2016 e permitiram um falsificador de quase tempo real para expressões faciais em vídeos de 2 dimensões já existentes.

Cinematografia
O primeiro caso registrado de deepfake foi em 2017, quando um usuário do Reddit sob o pseudônimo "Deepfakes" publicou vários vídeos de caráter pornográficos na Internet. O primeiro a chamar mais atenção foi o vídeo de Daisy Ridley, atriz de vários filmes renomados como Star Wars: Episódio VII - O Despertar da Força. Outra deepfake que chamou atenção foi da atriz Gal Gadot, a qual interpretou Mulher-Maravilha, fazendo sexo com seu meio-irmão. Vários outros vídeos com várias famosas renomeadas como Emma Watson, Katy Perry, Taylor Swift e Scarlett Johansson também foram divulgados. Todas as cenas não eram reais e foram criadas por redes neurais artificiais. Os vídeos foram desmascarados pouco tempo depois.
Com as pesquisas em imagens avançando a cada dia, a comunidade do Reddit consertou muitos dos erros grotescos dos vídeos gerados e tornou mais difícil de se distinguir um vídeo falso de um vídeo verdadeiro, a olho nu. Com uma base de dados enorme de vídeos pornôs e outra base de vídeos de várias atrizes, os usuários do Reddit treinaram diversas redes neurais para gerar mais deepfakes. A primeira notícia de deepfake foi reportada pela revista Vice, na seção de Tecnologia e Ciências, decorrendo em ampla disseminação do ocorrido em vários outros meios midiáticos. No Reino Unido, produtores de conteúdo de deepfake podem ser acusados por abuso sexual, porém há casos que fazem o deepfake um crime específico.

Política
Dado o cenário político mundial atual, as deepfakes são uma ameaça enorme para assuntos como relações internacionais e corrida à presidência. As notícias falsas ultimamente tem causado muitos impactos na política mundial. As eleições dos Estados Unidos de 2016 foram comprovadamente afetadas por notícias falsas geradas pela empresa Cambridge Analytica. A empresa Facebook foi chamada à corte para explicar vazamentos de dados para a Cambridge Analytica e assim conhecer os perfis de eleitores. Fatos parecidos podem acontecer futuramente porém sendo vídeos, imagens e áudios falsos gerados para manipular os eleitores. Alguns vídeos de caráter divertido foram criados para exemplificar o fato, como o do presidente argentino Mauricio Macri que teve sua face substituída pela face do ditador Adolf Hitler, e a face da Chanceler Angela Merkel substituída pela face do Presidente Donald Trump. O exemplo mais famoso é o vídeo divulgado pelo BuzzFeed onde o ator Jordan Peele interpreta vocalmente Barack Obama, alertando os males que a deepfake pode vir a causar:

You Won’t Believe What Obama Says In This Video! 😉


Em 2018, durante as Eleições gerais realizadas no Brasil, circulou nas redes sociais um vídeo deepfake com o rosto do candidato a governador de São Paulo João Doria (PSDB) no corpo de um homem fazendo orgia com seis mulheres.

Aplicações
Em Janeiro de 2018, foi lançado um aplicativo de computador chamado "FakeAPP". O aplicativo permite que os usuários facilmente criem e compartilhem vídeos com as faces substituídas. O aplicativo usa uma rede neural artificial, o poder da Unidade de processamento gráfico do usuário e três a quatro Gigabytes de armazenamento para gerar os vídeos falsos. Para informações detalhadas, o programa precisa de muitos dados visuais (imagens, vídeos) da pessoa a ser inserida para a rede "aprender" quais parâmetros das imagens têm que ser trocados (posição dos olhos, cor do cabelo, por exemplo). O software usa o framework de inteligência artificial TensorFlow, desenvolvido pela Google, o qual dentre as mais variadas aplicações foi usado no programa DeepDream. As celebridades são os principais alvos de vídeos falsos, como os de pornografia, mas também outros são afetados pela onda de ataques. Em Agosto de 2018, pesquisadores na Universidade da Califórnia em Berkeley publicaram um artigo científico introduzindo um aplicativo de "danças falsas" onde uma criança pode fazer movimentos de um dançarino profissional usando inteligência artificial.

Everybody Dance Now


As deepfakes também podem ser amplamente utilizadas no ramo cinematográfico. Hoje em dia, dublês são usados para fazer cenas perigosas, as quais os atores comuns não se arriscam a fazer. Uma aplicação bem plausível seria utilizar uma deepfake para substituir a fisionomia do dublê pela fisionomia dos atores. Outra aplicação no ramo, pode ser a substituição de fisionomia de um animal ou monstro. No filme O Hobbit: A Desolação de Smaug, o ator Benedict Cumberbatch interpretou o dragão Smaug com ajuda do software "Tissue" da Weta Digital. A técnica utilizada para tal feito, utiliza várias tags para identificação de expressão facial. Hoje poderiam ser aplicadas as técnicas de deepfake para produzir o Dragão.


Críticas
Abusos
O jornal Aargauer Zeitung expõe como a manipulação de imagens e vídeos usando métodos de inteligência artificial pode ser um fenômeno extremamente perigoso para nossa sociedade atual. Porém, a falsificação de imagens e vídeos é tão velha quanto o marco dos programas de edição de vídeo e edição de imagens, a verossimilhança seria "apenas" mais um aspecto a ser considerado. Os casos de pornografia de vingança, deepfakes direcionadas a embustes e escândalos políticos são os mais graves atualmente. Casos deste tipo, podem ser tratados como crime atualmente, como no Reino Unido.

Efeitos na credibilidade e autenticidade
Outro feito impactante das deepfakes é fazer as pessoas desacreditarem em toda e qualquer mídia divulgada, pois aquela informação pode não ser genuína e também indistinguível do conteúdo original. O pesquisador Alex Champandard comunicou que todos deveriam entender o quão rápido as coisas podem ser corrompidas com a tecnologia atual, e que o problema não é técnico, mas um problema que tem que ser resolvido pelo jornalismo e pela confiabilidade da informação.  A primeira "armadilha" é que o Homem pode entrar em uma era a qual não poderá ser distinguido o verdadeiro do falso.

Reações na internet
Alguns sites, como o Twitter e o Gfycat, anunciaram que deletariam conteúdos relacionados a deepfakes e bloqueariam os usuários. Anteriormente, a plataforma de conversas Discord bloqueou um canal de comunicação dedicado a compartilhar vídeos pornográficos falsos de celebridades. O site de pornografia, Pornhub, também planeja bloquear tais conteúdos, porém foi comunicado que o mesmo não tem dado força ao combate. Já no Reddit, a situação inicial permaneceu como "não concluída" até o subreddit ser suspenso em Fevereiro de 2018 devido à violação de políticas de uso pelo artigo de "Pornografia involuntária".

Fonte: https://pt.wikipedia.org/wiki/Deepfake

Um comentário:

  1. Os reptilianos com certeza já usam essa tecnologia há muito tempo substituindo seus rostos répteis por rostos humanos hahahahhahahaha :D

    ResponderExcluir