Acompanhando essa situação do Telegram na Coreia do Sul, e honestamente é bastante alarmante. A plataforma tem enfrentado uma pressão enorme das autoridades devido à circulação de materiais de exploração sexual com deepfake em seus canais, e as coisas simplesmente escalaram significativamente.

Então, aqui está o que aconteceu: A Comissão de Padrões de Comunicação da Coreia finalmente conseguiu que o Telegram removesse 25 vídeos que retratavam material de abuso sexual, principalmente criados usando tecnologia deepfake direcionada a menores e mulheres. Isso aconteceu depois que a empresa vinha ignorando em grande parte os pedidos do governo por anos. Segundo relatos, um grupo do Telegram sozinho tinha cerca de 220.000 membros ativamente compartilhando esses materiais, com foco significativo em menores. Estamos falando de pelo menos 500 escolas na Coreia sendo afetadas por esses crimes.

A escala é honestamente perturbadora. Dados da polícia mostram que os casos de deepfake quase dobraram de 156 em 2021 para 297 até meados de 2023. E veja só: seis em cada dez vítimas investigadas pela polícia nos últimos três anos eram crianças. A Agência Nacional de Polícia da Coreia iniciou uma investigação preliminar após descobrir que criminosos estavam usando o Telegram para criar e distribuir esses vídeos. Até o final de agosto, eles tinham recebido 88 denúncias e identificado 24 suspeitos.

O que piorou a situação para o Telegram foi a prisão do seu CEO Pavel Durov na França em 24 de agosto. Autoridades francesas o acusaram de cumplicidade na distribuição de material de abuso sexual infantil e de não cooperar com a polícia. Apesar de pagar uma fiança de €5 milhões, a prisão colocou o Telegram no centro de um debate global sobre moderação de conteúdo. A empresa tentou se defender, dizendo que "é absurdo afirmar que uma plataforma ou seu proprietário são responsáveis pelo abuso nessa plataforma", mas isso não convenceu os críticos, especialmente na Coreia.

Essa não é nem a primeira vez que o Telegram enfrenta esses problemas. Em 2020, um jovem de 20 anos chamado Cho Ju-bin administrava a "Sala Nth" no Telegram, uma sala de chat de escravos sexuais onde ele chantageou mais de 100 mulheres, incluindo menores, para produzirem imagens sexuais violentas. Ele foi condenado a 40 anos de prisão, mas o escândalo revelou o quão vulnerável a infraestrutura do Telegram é quando se trata de prevenir a distribuição de conteúdo ilegal.

O presidente Yoon Suk Yeol tem sido bastante vocal sobre isso, pedindo uma abordagem de tolerância zero a crimes sexuais digitais. Ele afirmou claramente: "É uma exploração da tecnologia enquanto se depende da proteção do anonimato. É um ato criminoso claro." Sob a Lei de Prevenção à Violência Sexual da Coreia, criar e distribuir deepfakes sexualmente explícitos pode levar até cinco anos de prisão ou cerca de US$ 37.500 de multa.

Após toda essa pressão