Đã theo dõi tình hình Telegram này ở Hàn Quốc và thật sự khá đáng báo động. Nền tảng này đã đối mặt với áp lực lớn từ chính quyền về các tài liệu khai thác tình dục deepfake đang lưu hành trên các kênh của nó, và mọi chuyện đã leo thang đáng kể.

Vì vậy, chuyện đã xảy ra như thế nào: Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc cuối cùng đã buộc Telegram phải gỡ bỏ 25 video mô tả nội dung lạm dụng tình dục, chủ yếu được tạo bằng công nghệ deepfake nhắm vào trẻ vị thành niên và phụ nữ. Điều này xảy ra sau nhiều năm công ty đã bỏ qua các yêu cầu của chính phủ. Theo các báo cáo, chỉ riêng một nhóm Telegram đã có khoảng 220.000 thành viên tích cực chia sẻ các tài liệu này, với sự tập trung đáng kể vào trẻ vị thành niên. Chúng ta đang nói về ít nhất 500 trường học trên khắp Hàn Quốc bị ảnh hưởng bởi các tội phạm này.

Quy mô thực sự đáng lo ngại. Dữ liệu của cảnh sát cho thấy các vụ việc deepfake gần như đã tăng gấp đôi từ 156 vụ năm 2021 lên 297 vụ vào giữa năm 2023. Và nghe này: sáu trong mười nạn nhân bị cảnh sát điều tra trong ba năm qua là trẻ em. Cơ quan Cảnh sát Quốc gia Hàn Quốc đã mở cuộc điều tra sơ bộ sau khi phát hiện tội phạm sử dụng Telegram để tạo và phân phối các video này. Tính đến cuối tháng 8, họ đã nhận được 88 báo cáo và xác định được 24 nghi phạm.

Điều làm tình hình tồi tệ hơn cho Telegram là việc bắt giữ CEO Pavel Durov của họ tại Pháp vào ngày 24 tháng 8. Chính quyền Pháp đã buộc tội ông ta về tội đồng lõa trong việc phân phối tài liệu lạm dụng tình dục trẻ em và không hợp tác với cảnh sát. Mặc dù đã nộp tiền bảo lãnh 5 triệu euro, việc bắt giữ này đã đưa Telegram vào trung tâm của cuộc tranh luận toàn cầu về kiểm duyệt nội dung. Công ty đã cố gắng tự vệ, nói rằng "thật vô lý khi cho rằng một nền tảng hoặc chủ sở hữu của nó chịu trách nhiệm về việc lạm dụng trên nền tảng đó," nhưng điều đó không thực sự thuyết phục được các nhà phê bình, đặc biệt là ở Hàn Quốc.

Đây còn không phải là lần đầu Telegram gặp phải các vấn đề này. Vào năm 2020, một thanh niên 20 tuổi tên là Cho Ju-bin đã điều hành "Phòng Nth" trên Telegram, một phòng chat nô lệ tình dục nơi hắn đe dọa hơn 100 phụ nữ, bao gồm cả trẻ vị thành niên, để họ tạo ra hình ảnh tình dục bạo lực. Hắn bị tuyên án 40 năm tù, nhưng vụ bê bối đã phơi bày rõ ràng mức độ