Hàn Quốc báo cáo hơn 10.000 nạn nhân tội phạm tình dục kỹ thuật số vào năm 2024, do Deepfake tạo ra bởi AI

Tội phạm tình dục kỹ thuật số ở Hàn Quốc tăng vọt do lạm dụng AI

Năm 2024, hơn 10.000 cá nhân đã tìm kiếm sự giúp đỡ từ Trung tâm hỗ trợ nạn nhân tội phạm tình dục kỹ thuật số của Hàn Quốc, đánh dấu sự gia tăng đáng báo động các vụ việc liên quan đến lạm dụng tình dục kỹ thuật số.

Đây là số nạn nhân cao nhất kể từ khi trung tâm thành lập vào năm 2018, chủ yếu là do việc sử dụng sai mục đích trí tuệ nhân tạo (AI) để tạo ra nội dung nhạy cảm như nội dung khiêu dâm deepfake.

Nội dung Deepfake thúc đẩy sự gia tăng mạnh mẽ các trường hợp

Xu hướng đáng lo ngại nhất được nêu bật trong báo cáo của Bộ Bình đẳng giới và Gia đình Hàn Quốc là sự gia tăng đáng kể các vụ việc liên quan đến deepfake do AI tạo ra.

Số lượng các vụ việc như vậy tăng vọt 227% từ 423 vụ vào năm 2023 lên 1.384 vụ vào năm 2024.

Hầu hết các nạn nhân này đều dưới 30 tuổi, nhiều người còn là thanh thiếu niên hoặc người trẻ tuổi.

Bảng hiển thị số vụ phạm tội tình dục kỹ thuật số do deepfake và quay phim bất hợp pháp. (Nguồn: Kyunghyang Shinmun)

Bộ này bày tỏ quan ngại về việc ngày càng có nhiều công cụ AI có khả năng tạo ra nội dung tổng hợp gây khó chịu, bao gồm cả nội dung deepfake nhắm vào trẻ vị thành niên.

Một viên chức bộ đã lưu ý về những rủi ro do công nghệ mới này gây ra,

“Thanh thiếu niên đặc biệt dễ bị tổn thương vì họ là những người thường xuyên sử dụng mạng xã hội và nền tảng kỹ thuật số.”

Nạn nhân trẻ tuổi chiếm đa số các trường hợp

Những người trẻ tuổi, đặc biệt là thanh thiếu niên và những người ở độ tuổi đôi mươi, đã trở thành mục tiêu chính của những tội phạm tình dục kỹ thuật số này.

Nạn nhân ở độ tuổi đôi mươi chiếm 50,9% các trường hợp, trong khi nạn nhân ở độ tuổi thiếu niên chiếm 27,8%.

Sự thay đổi về nhân khẩu học của nạn nhân này rất đáng lo ngại, vì nhiều người trẻ này bị lạm dụng thông qua các nền tảng mạng xã hội và ứng dụng nhắn tin.

Chính quyền tin rằng số nạn nhân thực tế ở nhóm thanh thiếu niên có thể cao hơn do tình trạng báo cáo không được thực hiện kịp thời.

Bất chấp những lo ngại này, các con số cho thấy một xu hướng rõ ràng: những người trẻ ngày càng dễ bị khai thác tình dục trên mạng.

Sự gia tăng bùng nổ trong việc quay phim bất hợp pháp và phân phối nội dung

Ngoài deepfake, vấn nạn quay phim và phân phối nội dung bất hợp pháp vẫn tiếp tục leo thang.

Số vụ quay phim trái phép tăng từ 2.927 vụ năm 2023 lên 4.182 vụ năm 2024, tăng đáng lo ngại 42,8%.

Tổng cộng, hơn 300.000 nội dung bất hợp pháp đã bị xóa vào năm 2024, tăng 22,3% so với năm trước.

Bất chấp những nỗ lực này, hầu hết các trang web bất hợp pháp lưu trữ những tài liệu này đều có trụ sở ở nước ngoài, gây ra những thách thức đáng kể cho các cơ quan chức năng đang cố gắng giải quyết vấn đề này.

Nguồn: ABC news

Trung tâm cung cấp hỗ trợ quan trọng cho hàng ngàn nạn nhân

Trung tâm hỗ trợ nạn nhân tội phạm tình dục kỹ thuật số (còn gọi là DSC hoặc Trung tâm Di-Sung), một cơ quan chính phủ quan trọng chuyên hỗ trợ nạn nhân của tội phạm tình dục kỹ thuật số, đã cung cấp hơn 332.000 dịch vụ cho 10.305 nạn nhân vào năm ngoái.

Hình ảnh tổng quan về hỗ trợ dành cho các nạn nhân trong 7 năm qua. (Nguồn: Yonhapnews)

Sự gia tăng về cả số lượng nạn nhân tìm kiếm sự giúp đỡ và các dịch vụ được cung cấp đánh dấu mức tăng 14,7% về số vụ việc so với năm trước.

Tổng số nạn nhân được hỗ trợ đã tăng 14,7%. Năm 2023, 36,5% là nạn nhân liên tục và 63,5% là nạn nhân mới. Năm 2024, 36,9% là nạn nhân liên tục và 63,1% là nạn nhân mới. (Nguồn: Yonhapnews)

Các nạn nhân nhận được sự hỗ trợ dưới nhiều hình thức khác nhau, bao gồm tư vấn, hỗ trợ xóa nội dung và giới thiệu hỗ trợ pháp lý và y tế.

Các vấn đề được báo cáo phổ biến nhất là lo lắng về việc phát tán tài liệu khiêu dâm, quay phim bất hợp pháp và đe dọa phát tán.

Trong số những người tìm kiếm sự hỗ trợ, 72,1% là nữ, trong khi 27,9% là nam, trong đó phụ nữ chiếm phần lớn nạn nhân trong cuộc khủng hoảng này.

78,8% ở độ tuổi dưới 30, với khoảng một nửa số nạn nhân ở độ tuổi 20. (Nguồn: daum.net)

Chính phủ có kế hoạch tăng cường nỗ lực chống lại tội phạm tình dục kỹ thuật số

Để giải quyết vấn nạn tội phạm tình dục kỹ thuật số đang gia tăng, các quan chức Hàn Quốc đã vạch ra kế hoạch tăng cường hỗ trợ cho nạn nhân và tăng cường các biện pháp phòng ngừa.

Chính phủ đặt mục tiêu cung cấp nội dung giáo dục có mục tiêu cho trẻ em và thanh thiếu niên để nâng cao nhận thức về những rủi ro liên quan đến nền tảng kỹ thuật số và tình trạng lạm dụng do AI tạo ra.

Các áp phích cung cấp sự giúp đỡ cho nạn nhân của tội phạm tình dục kỹ thuật số và thông tin về việc ngăn chặn lạm dụng deepfake được trưng bày bên ngoài Trung tâm thúc đẩy nhân quyền phụ nữ Hàn Quốc tại Seoul.

Ngoài ra, Bộ Bình đẳng giới và Gia đình đã cam kết mở rộng ngân sách và nhân sự tại DSC để đảm bảo nạn nhân có thể tiếp cận các dịch vụ hỗ trợ 24/7.

Thứ trưởng Shin Young-sook nhấn mạnh,

"Chúng tôi sẽ liên tục tìm kiếm các biện pháp chủ động hỗ trợ các nạn nhân của tội phạm tình dục kỹ thuật số."

Công cụ AI thúc đẩy mối đe dọa ngày càng tăng đối với những cá nhân dễ bị tổn thương

Khi công nghệ AI tiếp tục phát triển, những rủi ro do phương tiện truyền thông tổng hợp và lạm dụng kỹ thuật số có khả năng sẽ gia tăng.

Với sự gia tăng của các công cụ có thể tạo ra nội dung giả mạo rõ ràng, các nhà chức trách đang lo ngại về tác động đối với trẻ vị thành niên, đặc biệt là trẻ em dưới 10 tuổi, những đối tượng ngày càng trở thành mục tiêu của những loại tội phạm này.

Chính phủ Hàn Quốc đã hứa sẽ hợp tác chặt chẽ với các nhà điều hành nền tảng và tăng cường các quy định để hạn chế sự phát tán nội dung có hại.

Vào ngày 6 tháng 9, các nhà hoạt động tại Seoul đã tổ chức một cuộc biểu tình yêu cầu chính phủ hành động chống lại nội dung deepfake bất hợp pháp, với các biểu ngữ có nội dung 'quản lý các nền tảng internet khuyến khích tội phạm tình dục deepfake'. (Nguồn: Associated Press)

Shin Bora, người đứng đầu Cơ quan Thúc đẩy Nhân quyền Phụ nữ, lưu ý,

“Chúng tôi sẽ nỗ lực cung cấp hỗ trợ nhanh hơn và hiệu quả hơn cho các nạn nhân của tội phạm tình dục kỹ thuật số bằng cách đảm bảo thiết lập ổn định các chức năng tập trung và cải thiện chất lượng dịch vụ hỗ trợ nạn nhân.”

Những nỗ lực liên tục của chính phủ nhằm chống lại tội phạm tình dục kỹ thuật số phản ánh nhu cầu cấp thiết phải bảo vệ những cá nhân dễ bị tổn thương, đặc biệt là thế hệ trẻ, khỏi mối đe dọa ngày càng tăng của nạn khai thác do AI thúc đẩy.