Vụ án khiêu dâm AI thế hệ mới dẫn đến bốn vụ bắt giữ ở Nhật Bản

Trong một trường hợp mang tính bước ngoặt,Nhật Bản Chính quyền địa phương đã bắt giữ bốn cá nhân vì cáo buộc bán hình ảnh khiêu dâm do AI tạo ra—một cuộc trấn áp đầu tiên như vậy, theo các phương tiện truyền thông địa phương đưa tin vào ngày 15 tháng 4.

Các nghi phạm, độ tuổi từ 20 đến 50, bị cáo buộc tạo và phát tán áp phích có hình ảnh khiếm nhã của phụ nữ thông qua các nền tảng đấu giá trực tuyến, NHK và các kênh khác đưa tin, trích dẫn nguồn tin của cảnh sát.

Những hình ảnh được tạo ra bằng phần mềm AI tạo miễn phí, mô tả những người phụ nữ trưởng thành khỏa thân hư cấu và được tạo ra bằngrõ ràng những lời nhắc như "mở chân ra".

Những tấm áp phích này được cho là đã được bán với giá vài nghìn yên mỗi tấm, tương đương với nhiều đơn vị có giá khoảng 7 đô la Mỹ.

Cuộc đàn áp đầu tiên của Nhật Bản

Các báo cáo ngày thứ Ba đánh dấu vụ bắt giữ đầu tiên tại Nhật Bản liên quan đến việc bán hình ảnh khiêu dâm do AI tạo ra, báo hiệu mối lo ngại ngày càng tăng về việc sử dụng sai mục đích các công nghệ tạo hình.

Trên toàn cầu, báo động đang gia tăng về các ứng dụng độc hại của AI—đặc biệt làdeepfake, sử dụng hình ảnh, video hoặc âm thanh thực để tạo ra nội dung lừa đảo.

Một nghiên cứu năm 2019 của công ty AI Sensity của Hà Lan cho thấy khoảng 96% video deepfake lưu hành trực tuyến là nội dung khiêu dâm không được đồng ý, phần lớn trong số đó có hình ảnh phụ nữ.