HYBE và cảnh sát bắt giữ tám người vì video AI Deepfake khai thác các ngôi sao K-Pop từ HYBE

Tám người bị bắt vì tội phạm Deepfake nhắm vào các ngôi sao K-Pop từ HYBE

Cảnh sát Hàn Quốc đã bắt giữ tám cá nhân bị tình nghi tạo và phát tán video deepfake nhắm vào các nghệ sĩ trực thuộc HYBE, công ty chủ quản của các nghệ sĩ K-pop nổi tiếng thế giới như BTS, NewJeans, LE SSERAFIM và Seventeen.

Sáu người bị bắt bị cáo buộc sản xuất và phát tán nội dung bị chỉnh sửa thông qua các phòng chat Telegram và nền tảng mạng xã hội.

Cuộc đàn áp của cảnh sát được thúc đẩy bởi các báo cáo của người hâm mộ và sự ủng hộ của HYBE

Vụ bắt giữ này diễn ra sau nhiều tháng hợp tác giữa HYBE và Cơ quan Cảnh sát Tỉnh Bắc Gyeonggi (NGPPA), theo thỏa thuận quan hệ đối tác chính thức được ký kết vào ngày 25 tháng 2.

Thỏa thuận nêu ra các biện pháp cụ thể để giải quyết tình trạng deepfake do AI tạo ra liên quan đến các nghệ sĩ của công ty.

Giám đốc pháp lý của HYBE, Jinsoo Jung (phải), và Trưởng khu vực NGPPA, Ho-Seung Kim (trái) tại lễ ký kết biên bản ghi nhớ nhằm giải quyết vấn đề deepfake do AI tạo ra.

Một phần quan trọng của cuộc điều tra liên quan đến thông tin do HYBE cung cấp trực tiếp, cảnh sát cho biết thông tin này đã giúp họ nhanh chóng truy tìm nghi phạm.

HYBE cũng ghi nhận sự đóng góp của người hâm mộ vào vụ án.

Thông qua nóTrang web “Báo cáo vi phạm quyền của nghệ sĩ” — ra mắt vào tháng 9 năm 2024 — người hâm mộ đã gửi cảnh báo về các bài đăng bị thao túng nhằm phỉ báng nghệ sĩ.

Người hâm mộ có thể giúp bảo vệ thần tượng của mình bằng cách báo cáo thông qua ‘protect.hybecorp.com’ để chống lại mối đe dọa đang diễn ra này.

Một người hâm mộ BTS đã động viên những người khác trên X bằng cách đăng bài,

“ARMY, hãy tiếp tục báo cáo các vấn đề thực tế trên Hybe Portal… họ đang chăm sóc tốt cho các chàng trai của chúng ta và chúng ta đang giúp đỡ! Đặc biệt, những tội ác deepfake này cần phải được ngăn chặn!”

HYBE cho biết những mẹo này đóng “vai trò quan trọng” trong việc phát hiện và ngăn chặn hoạt động tội phạm.

Nạn nhân đấu tranh để lên tiếng giữa sự gia tăng của video giả mạo AI

Các video Deepfake có sự góp mặt của người nổi tiếng đang trở thành mối quan ngại ngày càng tăng trong ngành giải trí Hàn Quốc.

Vấn đề này đặc biệt cấp bách đối với những người nổi tiếng, những người mà theo cơ quan thực thi pháp luật, thường không muốn lên tiếng.

Vào năm 2023, các báo cáo tiết lộ rằng 94% nạn nhân khiêu dâm deepfake là nghệ sĩ K-pop.

Một bức ảnh gốc của Sakura của LE SSERAFIM đã được chỉnh sửa kỹ thuật số bằng công nghệ deepfake để tạo ra một bức ảnh khỏa thân giả.

Kim Ho-seung, Giám đốc NGPPA, cho biết:

“Các tội phạm deepfake lợi dụng điểm yếu của những người nổi tiếng — những người thường gặp khó khăn khi tự mình báo cáo những hành vi phạm tội như vậy — đang gia tăng.”

Ông hứa sẽ tiếp tục nỗ lực để xác định và truy tố những kẻ phạm tội bằng cách nói thêm,

“Deepfake là một loại tội phạm nghiêm trọng có thể hủy hoại cuộc sống thường ngày của nạn nhân, và tội phạm nhắm vào người của công chúng cũng không ngoại lệ.”

HYBE tuyên bố chính sách không khoan nhượng đối với những kẻ vi phạm Deepfake

Tổng giám đốc điều hành HYBE Jason Jaesang Lee đã tuyên bố sẽ có hành động pháp lý mạnh mẽ để đối phó với những tội ác như vậy, khẳng định quan điểm không giải quyết của công ty.

Jason Jaesang Lee, Giám đốc điều hành của HYBE

Lee nói,

“HYBE sẽ phản ứng cứng rắn với những hành vi xâm phạm quyền chân dung và danh tiếng của nghệ sĩ chúng tôi, dựa trên chính sách không khoan nhượng và không giải quyết.”

Ông cũng cam kết sẽ tiếp tục làm việc với các cơ quan thực thi pháp luật và tăng cường hệ thống bảo vệ nghệ sĩ của công ty.

Nỗ lực mở rộng hơn khi hơn 20 người bị bắt vì phát tán video giả

Trong khi tám nghi phạm nhắm mục tiêu cụ thể vào các nghệ sĩ HYBE, cảnh sát xác nhận rằng tổng cộng có 23 cá nhân đã bị bắt giữ liên quan đến việc phát tán nội dung deepfake có nội dung khiêu dâm qua Telegram.

Trong số đó, 13 người hiện đang bị giam giữ.

Hầu hết những người bị cáo buộc đều còn trẻ, hơn 90 phần trăm ở độ tuổi thiếu niên hoặc đôi mươi và không có việc làm ổn định.

Ngành công nghiệp K-Pop đoàn kết chống lại sự quấy rối do AI tạo ra

Sự đàn áp của HYBE phản ánh mối lo ngại ngày càng tăng trong làng nhạc K-pop.

Những gã khổng lồ trong ngành giải trí như JYP, YG và Cube Entertainment cũng đã khởi động các sáng kiến ​​nhằm chống lại các mối đe dọa deepfake đối với nghệ sĩ của họ.

Trong khi đó, hãng thu âm ADOR thuộc sở hữu của HYBE gần đây đã xác nhận họ đang thực hiện hành động pháp lý để bảo vệ nhóm nhạc nữ NewJeans khỏi nạn quấy rối trực tuyến, bao gồm cả các cuộc tấn công truyền thông giả mạo.

Các nhà lập pháp Hoa Kỳ thúc đẩy quy định về Deepfake với sự hỗ trợ của ngành

Ngoài Hàn Quốc, các nhà lập pháp tại Hoa Kỳ đã tái giới thiệu Đạo luật KHÔNG GIẢ MẠO - một dự luật được thiết kế để chống lại nội dung do AI tạo ra trái phép.

Việc giới thiệu lại vào tuần này đã nhận được sự ủng hộ từ các nhà lãnh đạo công nghệ và giám đốc điều hành ngành công nghiệp âm nhạc.

Những người tham dự sự kiện ở Washington bao gồm Giám đốc điều hành của Warner Music Group Robert Kyncl, người trước đó đã làm chứng trước Thượng viện, cùng với Giám đốc điều hành của Học viện thu âm Harvey Mason Jr., Vivien Lewit của YouTube và giám đốc RIAA Mitch Glazier.

Ngoài ra còn có sự góp mặt của ca sĩ nhạc đồng quê Randy Travis, người nổi tiếng với việc sử dụng AI để tái tạo giọng nói của mình sau một cơn đột quỵ.