Deepfakes

Ao mesmo tempo em que a tecnologia evolui para facilitar nossas vidas, ela também é utilizada por criminosos virtuais para modernizar seus ataques e fazer novas vítimas.

No campo da inteligência artificial, já se fala de ataques utilizando a tecnologia denominada Deepfake para enganar pessoas e induzi-las a comportamentos que gerem benefícios para os fraudadores.

Quer saber mais sobre os riscos dos deepfakes e os possíveis ataques utilizando esta tecnologia? Então acompanhe nosso post.

 

O que são Deepfakes?

O termo deepfake surge da mistura dos termos “deep learning” + “fake”. A criação das deepfakes se dá por meio de algoritmos de inteligência artificial que reconhecem padrões movimentações corporais, expressões faciais e até mesmo da voz, com base em banco de dados de imagens e áudios.

Essa tecnologia permite realizar modificações de vídeo, imagem ou áudio tão imperceptíveis que parecem reais, por meio de um sistema de inteligência artificial baseado em deep learning.

Sua criação é feita por meio de softwares de aprendizado de máquina, onde são inseridos milhares de arquivos e processadas de forma automática por uma rede neural.

Em linhas gerais, é como um treinamento onde o programa aprende traços de determinado rosto, como ele se mexe e reage a efeitos da luz. Depois de ter um acervo bem grande em banco de dados e de conteúdo analisado, o software é capaz de replicar movimentos e a fala de pessoas.

 

Como elas são feitas?

Para a realização da análise do conteúdo é utilizado uma técnica chamada rede contraditória generativa. Nessa rede são geradas imagens inéditas e o algoritmo verifica se esta dentro do aceitável. O ciclo se repete várias vezes com o intuito de aprimorar a produção.

A criação se divide em duas etapas. No caso do vídeo, o primeiro passo é capturar imagens referentes a pessoa que será usada para o vídeo/imagem, quanto maior o número de imagens e ângulos do rosto inseridas, maior precisão haverá na criação. Depois, são gravados os movimentos de outra pessoa que será o ‘molde’ para o deepfake e a inteligência artificial trata de unir esses dois passos criando um vídeo falso.

Abaixo temos um exemplo de aplicação em vídeo de uma deepfake:

 

 

Riscos da tecnologia

O conceito de deepfakes começou a ganhar destaque em 2017, quando um usuário do Reddit postou vídeos falsos onde trocava rostos de atrizes pornôs por famosas em videos íntimos. A partir daí, começou a se tornar alarmante o perigo por trás da tecnologia, uma vez que ela pode ser usada para chantagear, difamar ou atacar pessoas e organizações.

Os deepfakes se tornam potenciais ameaças para as organização, uma vez que pode ser utilizada para ataques de engenharia social. Por meio de vídeo e áudio, podem gerar solicitações, criadas até mesmo em tempo real, de executivos para a execução de comportamentos de risco. A utilização de cargos de alta hierarquia gera comportamentos automáticos e sem muitos questionamentos, tornando a tecnologia expecialmente preocupante para as empresas.

No Reino Unido já houve um acaso onde um executivo transferiu 220 mil euros para alguém que se passou pelo CEO da sua empresa, por meio de áudios fraudulentos para enganá-lo.

O grande X da questão é que hoje em dia ainda é possível identificar, mas com o passar do tempo é muito provável que se torne muito difícil, ou até impossível, identificar o que é real e o que não é quando se trata desses vídeos e áudios utilizados para o mal.

Assine nossa Newsletter!

Receba por e-mail os nossos melhores conteúdos sobre segurança da informação.

Deepfakes: Conheça o risco por trás da tecnologia

tempo de leitura: 3 min