Trong một xu hướng đáng lo ngại, tội phạm mạng đang ngày càng sử dụng các công cụ trí tuệ nhân tạo (AI) để tạo ra những hình ảnh giả mạo đầy thuyết phục về những người nổi tiếng.

Họ khai thác những điểm giống này để đánh lừa người hâm mộ, lừa họ chia tay tiền và tiền điện tử của họ.

Theo các báo cáo gần đây, số vụ có nội dung lừa đảo như vậy đã tăng lên đáng kinh ngạc 87% chỉ trong năm qua.

Vấn đề này được đặt lên hàng đầu khi nhân vật YouTube, Mr Beast, chia sẻ với người bạn đáng kể của mìnhX (trước đây gọi là Twitter) sau hơn 24 triệu người cho rằng anh ta đã trở thành nạn nhân của một âm mưu như vậy.

Người dẫn chương trình podcast, nhà truyền thông khoa học và nhà vô địch poker Liv Boeree đã trả lời:

“Họ không như vậy và dân chủ cũng vậy.”

Deepfake là gì?

Deepfake giống như một sự ngụy trang kỹ thuật số cho video hoặc hình ảnh.

Nó được thực hiện bằng cách sử dụng các chương trình máy tính có thể hoán đổi khuôn mặt hoặc giọng nói của ai đó với người khác, tạo ra một video hoặc hình ảnh giả trông giống như thật.

Mọi người thường sử dụng deepfake để giải trí, chẳng hạn như đặt khuôn mặt của họ lên cơ thể của một diễn viên nổi tiếng trong video, nhưng chúng cũng có thể được sử dụng để đánh lừa hoặc đánh lừa người khác bằng cách làm cho có vẻ như ai đó đã nói hoặc làm điều gì đó mà họ chưa bao giờ thực sự làm.

Vì vậy, nói một cách đơn giản, deepfake là một thủ thuật kỹ thuật số khiến nó trông giống như ai đó đang làm hoặc nói điều gì đó mà họ không hề làm trong đời thực.

Một số người nổi tiếng không may mắn là mục tiêu của deepfake?

Sự gia tăng của deepfake do AI tạo ra đã gây ra mối lo ngại rộng rãi, trong đó các nhà lãnh đạo, nhà hoạch định chính sách và cơ quan thực thi pháp luật toàn cầu cũng đồng tình với những lo ngại của những cá nhân như Liv.

Trường hợp của Mr Beast, tên thật là James Donaldson, chỉ là ví dụ mới nhất về việc những người nổi tiếng trở thành nạn nhân của việc sử dụng trái phép hình ảnh của họ trong các chiến dịch hoặc lừa đảo trực tuyến.

Cuối tuần qua, nam diễn viên Tom Hanks đã lên Instagram để cảnh báo người hâm mộ về một chiến dịch lừa đảo quảng bá chương trình nha khoa, sử dụng phiên bản do AI tạo ra của nam diễn viên từng đoạt giải Oscar mà không có sự đồng ý của anh ấy.

Anh ấy đề cập đến sự xuất hiện gần đây của một video do AI tạo ra có sự góp mặt của nam diễn viên nổi tiếng trong một bối cảnh bất ngờ - sự chứng thực cho một kế hoạch nha khoa:

“Hãy coi chừng! Có một video quảng cáo một số chương trình nha khoa có phiên bản AI của tôi. Tôi không liên quan gì đến chuyện đó cả."

Trong một diễn biến song song, một bài đăng trên Instagram của con gái của cố Robin Williams, Zelda Williams, đã chỉ trích việc khai thác giọng nói của cha cô trong nội dung thương mại thông qua việc sao chép AI.

Ngoài ra, có một xu hướng đáng lo ngại là khai thác các diễn viên nữ nổi tiếng như Taylor Swift, Natalie Portman và Emma Watson trong nội dung khiêu dâm giả mạo, phục vụ cho những sở thích nhạy cảm hơn.

Mặc dù Tom Cruise chưa công khai giải quyết vấn đề này, nhưng một bản deepfake AI lan truyền có hình anh đã lan truyền trên mạng xã hội vào năm ngoái.

Đáng chú ý, diễn viên không phải là mục tiêu duy nhất bị AI thao túng.

Vào tháng 8, ca sĩ Selena Gomez thấy mình là trung tâm của một bản deepfake âm thanh AI được đăng trên Instagram, trong đó có phần trình diễn bịa đặt của nghệ sĩ hát bản phối lại bài hát "Starboy" của The Weeknd.

Những trường hợp này nhấn mạnh những thách thức ngày càng tăng do deepfake do AI tạo ra và tác động của chúng đối với các cá nhân trên nhiều lĩnh vực khác nhau.