Escândalo abrange mais de 500 escolas e universidades, com muitas vítimas menores de idade em grupos de bate-papo no aplicativo.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido, alertando sobre um vazamento. ‘Suas fotos e informações pessoais foram expostas.’ Essa situação levanta questões importantes sobre a segurança digital, especialmente em um mundo onde a pornografia e os deepfakes estão se tornando cada vez mais comuns.
As imagens falsas geradas por tecnologia têm o potencial de criar conteúdos pornográficos que podem prejudicar a reputação de indivíduos. É fundamental estar ciente dos riscos associados a essas práticas, pois a pornografia e os deepfakes podem afetar gravemente a vida pessoal e profissional das pessoas. A proteção da privacidade é essencial.
A Realidade da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul decidiu entrar no bate-papo para conferir a mensagem que havia recebido, foi surpreendida por uma foto sua tirada anos atrás, ainda na escola. Para sua total consternação, logo em seguida, recebeu uma segunda imagem, que utilizava a mesma foto, mas apresentava uma versão sexualmente explícita — e completamente falsa. Heejin, que é um nome fictício, ficou apavorada e optou por não responder, mas as imagens continuaram a chegar incessantemente. Cada uma delas mostrava seu rosto inserido em um corpo realizando atos sexuais, tudo isso utilizando a avançada tecnologia de deepfake. A pornografia deepfake, que combina predominantemente o rosto de uma pessoa real com um corpo falso e pornográfico, está se tornando cada vez mais comum através de ferramentas de inteligência artificial.
O Impacto Devastador dos Deepfakes
O trauma que acompanha aqueles que têm suas imagens utilizadas em deepfakes pornográficos é devastador. ‘Fiquei petrificada, me senti tão sozinha’, relatou Heejin à BBC. No entanto, ela não estava realmente sozinha. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado uma reportagem que se tornaria um marco em sua carreira. Recentemente, informações surgiram sobre a polícia estar investigando redes de pornografia deepfake em duas das universidades mais renomadas do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Ela começou a investigar nas redes sociais e encontrou dezenas de grupos de bate-papo no aplicativo de mensagens do Telegram, onde usuários compartilhavam fotos de mulheres que conheciam, utilizando um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e pedindo que fossem convertidas em deepfakes’, disse Ko à BBC.
Grupos de Bate-Papo e Salas de Humilhação
A pesquisa de Ko revelou que esses grupos não se limitavam apenas a estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental. Se uma aluna em particular tivesse muitas imagens criadas, poderia até ganhar uma sala exclusiva. Essas salas, frequentemente chamadas de ‘salas de humilhação’ ou ‘salas de amigas de amigos’, geralmente impõem regras rigorosas para a entrada.
A reportagem de Ko, publicada no jornal Hankyoreh, chocou a sociedade sul-coreana. Na segunda-feira, 2 de setembro, a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades francesas, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo sul-coreano prometeu impor punições mais severas para os envolvidos, enquanto o presidente pediu uma maior educação para os jovens sobre esse tema. O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Uma Luta Contínua Contra o Conteúdo Falso
A BBC teve acesso a descrições de várias dessas salas de bate-papo. Uma delas, por exemplo, exige que os membros postem mais de quatro fotos de alguém, juntamente com o nome, para que o conteúdo pornográfico seja gerado. A luta contra a pornografia deepfake é complexa e requer um esforço conjunto entre as autoridades, plataformas de comunicação e a sociedade em geral para proteger as vítimas e acabar com essa prática abusiva.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo