Deepfakes estão piorando, e a maioria é voltada para mulheres

Deepfakes estão piorando, e a maioria é voltada para mulheres

Embora a tecnologia deepfake represente uma ameaça para todos, está se tornando particularmente perigosa para as mulheres. Da geração de nus realistas à criação de pornografia de vingança, os vídeos criados por inteligência artificial estão cada vez mais sendo usados ​​para o mal. Agora, um novo relatório confirmou o que já suspeitávamos: as mulheres são as vítimas da maioria dos deepfakes.

De acordo com um relatório de Deeptrace Labs , 96 por cento de todos os vídeos deepfake apresentam mulheres, a maioria das quais são celebridades sendo editadas em pornografia sem o seu consentimento. Quando se trata dos quatro principais sites dedicados a hospedar esse tipo de vídeo sexualmente explícito, 100 por cento dos assuntos são mulheres, com cerca de 850 indivíduos direcionados. Esses sites receberam 134 milhões de visualizações no total, o que mostra o alcance chocante dos vídeos alterados.

Citado no estudo, a professora e autora Danielle Citron disse: A tecnologia Deepfake está sendo usada como arma contra as mulheres ao inserir seus rostos na pornografia. É aterrorizante, constrangedor, humilhante e silenciador. Vídeos falsos de sexo dizem aos indivíduos que seus corpos não pertencem a eles e podem dificultar a permanência on-line, a obtenção ou manutenção de um emprego e a sensação de segurança.

Katy Perry deepfakeVia Reddit

Bem como sites de pornografia deepfake dedicados, 802 dos vídeos falsos foram hospedados em sites adultos convencionais, o que significa que os visitantes podem não perceber que a filmagem que estão assistindo é adulterada. As atrizes britânicas são as mais visadas, seguidas por músicos sul-coreanos e atrizes americanas.

Apesar das mulheres constituírem a maior parte da pornografia deepfake, os temas dos vídeos do YouTube criados por IA são 61% homens, com o conteúdo baseado em comentários, em vez de pornográfico. O laboratório também revelou que o número de deepfakes online quase dobrou no ano passado, saltando de 7.964 em 2018 para 14.678 hoje.

Embora a tecnologia deepfake seja amplamente usada contra políticos , figuras públicas e atores , claramente representa uma enorme ameaça para celebridades do sexo feminino, que provavelmente não têm ideia de que as imagens pornográficas alteradas com seus rostos estão sendo compartilhadas online. Como o software já existe, não há muito que possa ser feito para impedir o surgimento desses vídeos. Como o palestrante de inteligência artificial Haerin Shin disse a Dazed em junho, não há como controlá-lo, então é (agora) como implementamos medidas igualmente eficazes para prevenir o uso indevido (da tecnologia)