Deepfake: o que é e quais são seus impactos em 2023

Salvador, 21/03/2023 – Os avanços tecnológicos da era digital inegavelmente mudaram profundamente nossa vida cotidiana e nossas expectativas: gabinetes repletos de documentos em papel foram substituídos pelo armazenamento praticamente infinito dos computadores e serviços de nuvem, podemos nos comunicar em tempo real por texto ou vídeo com qualquer pessoa, e as nossas ferramentas de trabalho se tornaram cada vez mais práticas e acessíveis.

Tentar impedir a chegada de novas inovações é certamente um esforço impossível, no entanto, de tempos em tempos algumas tecnologias disruptivas podem levantar sinais de alerta na sociedade e é preciso debater rapidamente suas consequências antes que seja tarde. Este é o caso da tecnologia de deepfake, que deixou de ser teórica e limitada a grandes supercomputadores e tornou-se completamente acessível e trivial nos últimos anos e, em 2023, preocupa especialistas de diversas áreas. Confira.

O que é deepfake?

Em linhas gerais, deepfake é o nome dado ao conjunto de tecnologias que permite criar vídeos e imagens falsas, reproduzindo rostos ou corpos humanos de forma realista, substituindo a voz ou expressão facial, ou até mesmo transplantando o rosto de uma pessoa em outra. A tecnologia utiliza algoritmos de aprendizado de máquina para criar imagens e vídeos hiper-realistas, que podem ser gravados ou reproduzidos ao vivo, de forma extremamente convincente – cada expressão facial, desvio do olhar, ou entonação da voz, podem ser imitados perfeitamente pelo algoritmo.

Aplicativos populares como o FaceApp e alguns filtros de TikTok já permitem que usuários tenham um pequeno gosto da tecnologia – substituindo cenas famosas em filmes por imagens de seu próprio rosto, por exemplo. Apesar de inofensivas, essas demonstrações já abrem uma série de dilemas éticos – tornados ainda mais perigosos quando algoritmos mais precisos sendo executados em computadores são utilizados para gerar deepfakes tão realistas que pode ser difícil detectar o conteúdo como falso.

Perfis falsos em apps de namoro

Uma aplicação crescente dos deepfakes é a criação de perfis falsos em aplicativos de namoro como o Tinder e Grindr, com o objetivo de realizar a prática conhecida como catfish: fingir ser uma pessoa diferente na rede social para aplicar um golpe ou manipular emocionalmente uma vítima.

De acordo com o guia da ExpressVPN para identificar perfis falsos nesta categoria de aplicativo, existem inúmeros perigos criados pelos perfis falsos: golpes envolvendo pagamentos via Pix ou criptomoedas falsas, vírus espalhados por links perigosos, até o investimento emocional durante meses em alguém que está apenas se divertindo ou mentiu completamente sobre suas características. Na pior das hipóteses, um encontro presencial pode ser na verdade uma tentativa de assalto ou agressão.

Os deepfakes são especialmente perigosos pois usando a IA são capazes de gerar perfis convincentes com fotografias de uma “pessoa” em diversos cenários e posições, e em alguns casos, é possível até mesmo simular uma fotografia segurando um jornal do dia ou um papel com o nome da vítima escrito, dando mais veracidade ao golpe quando comparado à técnica antiga de simplesmente roubar imagens da internet.

Conteúdo adulto involuntário

Uma das maiores polêmicas envolvendo o uso popularizado de deepfakes é a geração de conteúdo adulto involuntário de qualquer pessoa. Aplicativos pagos e gratuitos compartilhados em fóruns na internet são capazes de coletar as fotografias normais de qualquer pessoa e produzir conteúdo adulto com seu rosto e características corporais, em alguns programas, é possível adicionar uma foto da vítima e um vídeo adulto para que o resultado final seja exatamente como o desejado.

Diversos websites se especializaram em publicar conteúdo adulto falso com a imagem de celebridades famosas, sem sua autorização, enquanto serviços em plataformas como WhatsApp e Telegram oferecem gerar conteúdo adulto de colegas de trabalho, ex-parceiros e qualquer outra pessoa sem seu consentimento. Em um golpe crescente no Brasil, a imagem falsa é usada para chantagear a vítima – exigindo um pagamento para evitar que seja publicada na internet. Perfis em plataformas de venda de conteúdo adulto como o OnlyFans também já foram encontrados usando o rosto de outras pessoas sem consentimento, lucrando com conteúdo explícito falso às custas da reputação da vítima. A plataforma Reddit precisou banir um grande número de usuários após a criação de um gigantesco grupo de compartilhamento de deepfakes adultos que, de forma extremamente alarmante, também incluiu imagens com rostos de crianças e adolescentes.

A legislação mundial ainda é, em geral, pouco capaz de lidar com esse novo desafio da era digital: as leis de direitos autorais e proteção de imagem, por exemplo, não estão equipadas para responder devidamente a inserção de um rosto sem autorização em uma obra própria, e as leis brasileiras que protegem contra o compartilhamento de fotografias íntimas não fazem menção sobre o conteúdo gerado artificialmente.

Outras aplicações

Apesar de seu uso conturbado e preocupante, a tecnologia de deepfake não é necessariamente uma vilã, podendo ser utilizada nas produções cinematográficas para poupar um ator durante uma cena de ação intensa, recriar efeitos de envelhecimento ou lesões, mesclar animações em 3D com pessoas reais, entre outros usos interessantes como a adição de personagens do mundo dos videogames dentro do cinema.

Algumas obras do cinema já utilizaram o deepfake para gerar cenas adicionais de atores e atrizes que já faleceram, durante a gravação de uma obra ou antes da completude de uma trilogia, por exemplo. Apesar de contratos do uso dos direitos de imagem permitirem esse tipo de aplicação, alguns familiares e especialistas já questionaram se esse tipo de aplicação não poderia ser considerada de mau gosto.

As técnicas de deepfake continuam a ser aprimoradas a cada dia e suas aplicações crescem constantemente. Já não há mais tempo para prevenir sua disseminação, no entanto, é importante que todos conheçam seus impactos e que ajustes legislativos e sociais ocorram rapidamente para que possamos aprender a conviver com um tipo de tecnologia que poderá impactar diversos aspectos do nosso cotidiano. Vídeos poderão ter menos significância como evidência em tribunais, gravações vazadas de políticos podem ser questionadas como fakes, áudios no WhatsApp podem ser forjados, e conteúdo adulto pode ser gerado sem autorização. O futuro dirá o quão profundamente o deepfake afetará nossas vidas.