He estado siguiendo esta situación en Telegram en Corea del Sur y, honestamente, es bastante alarmante. La plataforma ha estado enfrentando una enorme presión por parte de las autoridades debido a materiales de explotación sexual con deepfake que circulan en sus canales, y las cosas simplemente se intensificaron.

Así que esto fue lo que sucedió: La Comisión de Normas de Comunicaciones de Corea finalmente logró que Telegram eliminara 25 videos que mostraban material de abuso sexual, en su mayoría creados con tecnología deepfake dirigida a menores y mujeres. Esto ocurrió después de que la compañía había ignorado en gran medida las solicitudes del gobierno durante años. Según informes, solo en un grupo de Telegram había alrededor de 220,000 miembros compartiendo activamente estos materiales, con un enfoque significativo en menores. Estamos hablando de al menos 500 escuelas en toda Corea afectadas por estos crímenes.

La escala es realmente perturbadora. Datos policiales muestran que los casos de deepfake casi se duplicaron de 156 en 2021 a 297 a mediados de 2023. Y escuchen esto: seis de cada diez víctimas investigadas por la policía en los últimos tres años eran niños. La Agencia Nacional de Policía de Corea lanzó una investigación preliminar después de descubrir que los criminales estaban usando Telegram para crear y distribuir estos videos. Hasta finales de agosto, habían recibido 88 informes y habían identificado a 24 sospechosos.

Lo que empeoró las cosas para Telegram fue el arresto de su CEO Pavel Durov en Francia el 24 de agosto. Las autoridades francesas lo acusaron de complicidad en la distribución de material de abuso sexual infantil y de no cooperar con la policía. A pesar de pagar una fianza de 5 millones de euros, el arresto puso a Telegram en el centro de un debate global sobre la moderación de contenido. La compañía intentó defenderse diciendo que "es absurdo afirmar que una plataforma o su propietario son responsables del abuso en esa plataforma", pero eso no convenció mucho a los críticos, especialmente en Corea.

Ni siquiera es la primera vez que Telegram enfrenta estos problemas