Deepfake sexual: especialista explica como identificar, denunciar e se proteger de montagens

Deepfake sexual: especialista explica como identificar, denunciar e se proteger de montagens

Em reportagem ao Fantástico, exibida no último domingo (2/8), a atriz Paolla Oliveira revelou que enfrenta episódios recorrentes de deepfakes envolvendo imagens manipuladas com seu rosto

O problema tem atingido principalmente mulheres e meninas. Em reportagem ao Fantástico, exibida no último domingo (2/8), a atriz Paolla Oliveira revelou que enfrenta episódios recorrentes envolvendo imagens manipuladas com seu rosto. Outras vítimas também relataram chantagens e traumas provocados pela circulação desse tipo de conteúdo.

Para entender como essas montagens são produzidas e, principalmente, o que fazer diante de uma situação como essa, o portal LeoDias conversou com Kenneth Corrêa, professor da FGV e especialista em tecnologia e inteligência artificial.

Veja as fotos

Tecnologia da Unicamp visa combater as deepfakes Foto: Reprodução/EPTV Rodrigo Ocampo Apple remove apps que criam “deepfakes” após investigação.Reprodução: BBC Apple remove apps que criam “deepfakes” após investigação.Reprodução: BBC Apple remove apps que criam “deepfakes” após investigação.Reprodução: BBC Apple remove apps que criam “deepfakes” após investigação.Reprodução: BBC Gal Gadot, atriz israelense, já foi vítima de deepfake, utilizada para promover conteúdo sexualReprodução Apple remove apps que criam “deepfakes” após investigação.Reprodução: BBC Leo Dias Paolla OliveiraDivulgação: Globo Paola OliveiraFoto: Reprodução/Fantástico

Redes Sociais

Alerta! Major dá dicas para não cair em golpes com IA envolvendo famosos

Notícias

Após investigação, Apple remove apps que “tiram a roupa” de pessoas com uso de IA

Redes Sociais

Cena de jogador norueguês assustado diante do espelho é montagem feita com IA

Famosos

Deepfake: crime usando imagem e voz de famosos está cada vez mais comum. Entenda!

Segundo o especialista, a criação de um deepfake deixou de ser uma tarefa restrita a profissionais com conhecimento técnico avançado. “O que os dados mostram agora no meio do ano é o oposto: o deepfake virou uma commodity de prateleira. Hoje, produzir um conteúdo sintético hiper-realista não exige linha de código, exige apenas uma foto da vítima e um clique.”

Corrêa explica que as ferramentas utilizam redes neurais para mapear características do rosto e reproduzi-las em outro conteúdo. “A mecânica técnica opera através de redes neurais profundas que mapeiam a biometria facial de uma pessoa. Na prática, a inteligência artificial cria uma máscara de silicone digital: ela estuda os contornos originais e “veste” essa malha gráfica no corpo de um vídeo base, acompanhando a física do movimento.”

Como saber se uma imagem é falsa?

Com a evolução da tecnologia, identificar uma montagem apenas observando a imagem se tornou cada vez mais difícil. De acordo com o especialista, procurar falhas como mãos deformadas, pele artificial ou movimentos estranhos já não é uma estratégia suficientemente segura.

“A verdade nua e crua, validada pelas métricas mais recentes que mostram humanos acertando a identificação em apenas 24,5% dos vídeos de alta qualidade, é que o olho nu perdeu essa guerra”, afirma.

Para o especialista, a atenção deve se voltar menos para a aparência do conteúdo e mais para o contexto em que ele surgiu. “Como a barreira visual caiu, a única camada de defesa que restou para o usuário comum é a análise de contexto.”

Ele cita como sinais de alerta perfis recém-criados, abordagens incomuns e situações em que alguém tenta pressionar a vítima. “O sinal de alerta mudou da anatomia da imagem para o comportamento. Uma urgência exagerada, um perfil recém-criado cobrando algo, um desvio agressivo no padrão de comunicação da vítima, a anomalia agora mora na rota de distribuição daquela mídia, não na renderização.”

Apagou? O conteúdo pode continuar circulando

Um dos principais problemas enfrentados pelas vítimas é que retirar uma publicação de uma rede social não significa necessariamente eliminar todas as cópias existentes.

“O verdadeiro núcleo do problema, no entanto, é a assimetria de infraestrutura. A plataforma original, o Instagram, o TikTok ou o X, funciona apenas como rampa de lançamento”, explica.

De acordo com o especialista, depois que um arquivo é baixado e compartilhado em grupos privados, fóruns ou outras plataformas, o controle sobre a circulação se torna muito mais difícil.

“Quando o vídeo cai nessas redes descentralizadas de grupos criptografados, ele deixa de ser um simples post e vira uma moeda de troca. A arquitetura atual da internet garante essa permanência.”

Por isso, a remoção da publicação original não necessariamente encerra o problema. “O risco de o material voltar a circular meses ou anos depois é altíssimo porque ele repousa no HD de criminosos e em servidores hospedados em jurisdições que ignoram leis brasileiras.”

O que fazer ao descobrir um deepfake?

Apesar do impulso de denunciar imediatamente o conteúdo, Corrêa orienta que a vítima preserve as informações antes de solicitar a retirada da publicação.

“A contenção primária exige congelar as evidências antes de solicitar qualquer remoção.”

O especialista explica que a vítima deve reunir o máximo possível de informações sobre o conteúdo e sua origem. “A vítima precisa fazer capturas de tela que incluam o link visível no navegador, copiar os endereços das páginas e documentar qualquer tentativa de extorsão recebida via mensagem direta.”

A orientação é reunir as provas, registrar o boletim de ocorrência e, posteriormente, acionar os mecanismos de denúncia e remoção das plataformas.

“O fluxo correto exige frieza mecânica: documentar o rastro, registrar o boletim de ocorrência, hoje amplamente acessível via Delegacias Eletrônicas para crimes cibernéticos em estados como São Paulo, Rio de Janeiro e Minas Gerais, e só então acionar os mecanismos de exclusão das Big Techs.”

Quais provas guardar?

Segundo Kenneth Corrêa, o print da imagem falsa é apenas uma parte da documentação necessária. Para uma investigação, informações que ajudem a reconstruir o caminho percorrido pelo conteúdo podem ser ainda mais importantes.

“A montagem em si prova que o deepfake existe, mas não prova quem colocou o motor para rodar nem por qual canal. O foco investigativo mudou da análise anatômica para a rastreabilidade da distribuição.”

Por isso, a recomendação é guardar URLs, identificadores de publicações, links de compartilhamento, nomes de perfis e o histórico das conversas relacionadas ao caso.

“Não basta o print isolado da ameaça: o valor probatório está no registro contínuo da conversa, nos cabeçalhos de e-mail originais, no nome do perfil que curtiu ou encaminhou a postagem logo após a publicação, e no histórico de qualquer transferência bancária pedida (como um código Pix).”

É possível descobrir quem criou a montagem?

Mesmo que o responsável utilize um perfil falso, isso não significa necessariamente que ele seja impossível de rastrear.

“O fato é que rastrear a origem e a distribuição de um deepfake sexual é técnica e juridicamente possível, e a métrica de sucesso não está no quão sofisticada é a inteligência artificial usada, mas no volume de metadados que a vítima consegue preservar.”

O especialista explica que atividades digitais podem deixar registros que auxiliam as autoridades. “Cada conexão gera um rastro logístico: endereços de IP, timestamps de acesso, IDs de dispositivos e rotas de servidores.”

No entanto, investigações podem ficar mais demoradas quando envolvem serviços ou servidores localizados fora do Brasil. “O gargalo dessa rastreabilidade, contudo, é jurisdicional. Enquanto o criminoso usar provedores hospedados fora do alcance da justiça brasileira, a velocidade da investigação esbarra na necessidade de cooperação internacional.”

E se houver chantagem?

Outra situação comum em casos de deepfake sexual é a extorsão. O criminoso ameaça divulgar ou continuar compartilhando o conteúdo caso a vítima não pague determinada quantia.

Para Corrêa, ceder à exigência não é garantia de que a chantagem terminará. “Pagar não encerra o ataque, apenas qualifica a vítima no banco de dados deles como uma fonte pagadora recorrente. Você não está comprando o silêncio do agressor, está pagando a primeira mensalidade de uma assinatura de chantagem.”

A recomendação, portanto, é evitar negociações e preservar todas as informações relacionadas à ameaça.

“A regra estratégica para a vítima é contato zero e documentação total.”

Perfil privado protege contra deepfakes?

Embora restringir o acesso às redes sociais possa dificultar a obtenção de imagens, isso não elimina completamente o risco. O especialista afirma que uma única fotografia pública pode ser suficiente para alimentar determinadas ferramentas.

“O cuidado real hoje não é buscar uma invisibilidade impossível, mas criar atrito logístico.”

Por isso, Corrêa recomenda atenção ao material disponibilizado publicamente e também às pessoas que já têm acesso às imagens privadas.

“Os dados que estamos acompanhando no Brasil mostram que o crime raramente vem de um hacker operando no leste europeu. No cenário de explosão de deepfakes em escolas, universidades e no ambiente corporativo, o agressor quase sempre é o colega de turma, o ex-parceiro ou alguém do escritório que já tem autorização para visualizar seu “perfil fechado”.”

Quando a vítima é criança ou adolescente

O cenário se torna ainda mais delicado quando as montagens envolvem menores de idade. Nesses casos, o especialista recomenda que familiares não tentem resolver o problema por conta própria ou confrontando imediatamente os envolvidos.

“Quando os pais descobrem o material, o instinto de ir confrontar a escola ou brigar no grupo de WhatsApp dos alunos é um erro operacional que destrói a perícia.”

Mais uma vez, a prioridade deve ser preservar as evidências. “Congelar a tela, copiar as URLs exatas de onde o vídeo está hospedado e preservar todo o histórico de quem enviou o arquivo.”

Para Corrêa, também é fundamental que crianças e adolescentes tenham segurança para contar aos responsáveis o que aconteceu.

“O que garante a proteção na próxima fase não é confiscar o celular do adolescente agredido, mas criar um protocolo inquebrável de confiança em casa, para que ele reporte o deepfake no minuto zero sabendo que a resposta dos pais será estritamente técnica, jurídica e implacável.”

Existem ferramentas para detectar deepfakes?

Apesar da evolução de sistemas capazes de analisar conteúdos produzidos por inteligência artificial, Corrêa alerta que não é recomendável que a vítima dependa exclusivamente de uma ferramenta para descobrir se determinado material é falso.

“Enquanto sistemas automatizados têm uma taxa de acerto que bate no teto de 65% contra montagens rodadas em motores como o DeepFaceLab, o olho humano fracassa de vez, identificando corretamente só 24,5% dos vídeos de alta qualidade.”

O especialista cita ainda tecnologias de autenticação e identificação de origem que vêm sendo desenvolvidas pela indústria, mas ressalta que, para a vítima, a prioridade imediata continua sendo preservar as informações do ataque.

“Antes de ir à delegacia, a melhor tecnologia à disposição é abrir os aplicativos de mensageria pelo computador, onde capturar as URLs originais e IDs de grupos é mais rápido do que na tela do celular, gravar a tela documentando o fluxo de distribuição e salvar qualquer informação bancária ou de contato do agressor.”

No fim, a principal orientação é não agir por impulso. “O que define o sucesso da resposta jurídica a um vazamento não é a capacidade da vítima de hackear a origem do arquivo. É a frieza de empacotar as evidências logísticas de um jeito que a polícia e o Ministério Público só precisem puxar o fio para chegar no CPF de quem apertou o botão de enviar.”

Fique por dentro!

Para ficar por dentro de tudo sobre o universo dos famosos e do entretenimento siga @leodias no Instagram.

Agora também estamos no WhatsApp! Clique aqui e receba todas as notícias e conteúdos exclusivos em primeira mão.

<!– Comentários –>