A utilização de imagens de cariz íntimo - ou apenas e só a ameaça de partilha - sem consentimento atinge frequentemente mulheres numa estratégia de manipulação ou chantagem recorrente.

Em Portugal, por exemplo, esta partilha é crime, podendo ser punida com pena de prisão até 5 anos, como se verifica no Artigo 193.º do Código Penal disponível no portal do Diário da República. Mas se isto não bastava, soma-se agora uma nova camada a esta forma de vingança: o roubo de identidade e criação de conteúdo sexualmente explicíto ou erótico através de ferramentas de Inteligência Artificial (IA).

Aconteceu com 'Sanchi' (nome fictício para proteger a identidade da vítima), uma dona de casa indiana que, sem contar, se tornou numa sensação das redes sociais sob o nome Babydoll Archi. Em poucos dias, a conta de Instagram de 'Babydoll' superou um milhão de seguidores graças a vídeos virais em que surgia a dançar sensualmente ou a uma foto em que posava com a estrela norte-americana de filmes para adultos Kendra Lust.

Mas 'Sanchi' nada teve a ver com a criação da conta ou conteúdo publicado nesta conta. Quem estava por detrás de 'Babydoll' era, na realidade, o ex-namorado Pratim Bora que, para se vingar da 'ex', decidiu criar um deepfake recorrendo a imagens do rosto de 'Sanchi'.

Bora foi detido depois do irmão da vítima ter apresentado queixa às autoridades. Sizal Agarwal, polícia que lidera a investigação, revelou à BBC que 'Sanchi' e Bora tiveram um desentendimento e que a IA que ele criou tinha como objetivo vingar-se dela.

Usou fotos privadas para criar um perfil falso

O homem é engenheiro mecânico e entusiasta de IA e usou fotos privadas da 'ex' para criar um perfil falso.

O Babydoll Archi foi criado em 2020 e os primeiros uploads foram feitos em maio de 2021. As fotos iniciais eram fotos reais da vítima que foram manipuladas, indicou Agarwal.

Com o passar do tempo, Bora usou ferramentas como ChatGPT e Dzine para criar uma versão com IA. A conta começou a ganhar atenção no ano passado, mas só a partir de abril deste ano ganhou força.

A dona de casa não tem redes sociais e só descobriu a conta quando a comunicação social local começou a falar da 'influencer' Babydoll Archi. Foram feitas reportagens que especulavam que poderia ter entrado na indústria pornográfica dos EUA, mas 'Babydoll' não existia na vida real.

A queixa feita à polícia pela família de 'Sanchi' na noite de 11 de julho veio com impressões de algumas fotos e vídeos como prova. A detenção foi feita no dia seguinte após investigação.

A conta do Instagram em causa, que continha 282 publicações, já não está disponível ao público. No entanto, as redes sociais estão repletas de fotos e vídeos dela, e uma conta do Instagram parece ter recolhido todas as imagens. A BBC questionou a Meta sobre o caso, não tendo obtido resposta.

O que é um deepfake e como o identificar?

Um deepfake é uma tecnologia que coloca, em vídeo, pessoas a dizerem palavras que nunca disseram ou a executaram determinados comportamentos sem que alguma vez os tenham concretizado.

Com a evolução da IA tornou-se cada vez mais convicente levando até a que, em alguns casos, se torne quase imperceptível que se trata de um conteúdo manipulado.

Esta tecnologia é capaz de substituir rostos de pessoas - como aconteceu com 'Sanchi' -, sincronizar movimentos labiais, expressões e outros detalhes.

Ainda assim, explica um artigo do MIT Media Lab, a ferramenta não é perfeita denotando algumas dificuldades de execução que podem denunciá-la, nomeadamente a manipulação das mãos ou os movimentos do rosto.

Muitas vezes, estes conteúdos são possíveis de desmontar ao verificar que as mãos das pessoas não estão bem desenhadas, podendo ter dedos a mais, por exemplo. Outro sinal de alerta é o rosto, se a pele está anormalmente lisa e 'limpinha' ou enrugada ou se algo parece estranho na expressão do protagonista.

Note ainda que o piscar dos olhos também pode ser revelador. Questione-se se a pessoa no vídeo está a piscar o suficiente os olhos ou se lhe parecem estáticos.

Outro sinal é se o movimento da boca não está alinhado ou sincronizado com o que o protagonista do vídeo está a dizer.