SEUL — Um centro mantido pelo governo da Coreia do Sul trabalha para tirar da internet deepfakes e outros conteúdos sexuais publicados sem o conhecimento das vítimas. Criado em 2018, o serviço já atendeu 53 mil pessoas e removeu mais de 1 milhão de materiais.
A operação fica em um escritório no centro de Seul e reúne 23 mulheres. O atendimento começa quando a vítima procura a equipe, muitas vezes após ser avisada por alguém próximo de que um vídeo está circulando. Um sistema de inteligência artificial busca novas cópias do material, e as profissionais encaminham pedidos de remoção para redes sociais e sites pornográficos.
O centro também tem 17 filiais regionais, com suporte psicológico e jurídico. A líder da equipe, Kim Hyojung, afirma que os casos ficam mais difíceis quando os arquivos estão em páginas ilegais ou em servidores de outros países. Provedores de sites ilegais nem sempre respondem às solicitações, situação em que a polícia pode atuar para fechar as páginas. Quando os servidores ficam nos Estados Unidos, autoridades norte-americanas colaboram com os pedidos de retirada, segundo Kim.
Estimativas da Security Heroes indicam que mais da metade das vítimas de deepfakes pornográficos no mundo são sul-coreanas. O centro relata crescimento no número de casos entre pessoas de todas as faixas etárias.
Efeito sobre a equipe
A análise diária de vídeos pornográficos, incluindo materiais violentos e pornografia infantil, afeta a saúde das profissionais. Uma integrante identificada como Park disse: “Todas nós somos bastante afetadas emocional e psicologicamente por essa atividade.”
Como resposta, o centro oferece acompanhamento psicológico contínuo, com consultas individuais com um psicólogo uma ou duas vezes por mês. Park também aponta as mensagens de agradecimento das vítimas como uma fonte de motivação e diz que elas ajudam a equipe a perceber o impacto do trabalho na retomada da vida cotidiana.
