Sự kiện ra mắt iPhone 16 của Apple bị hủy hoại bởi video Deepfake

Sự kiện 'Glowtime' rất được mong đợi của Apple vàoYouTube , giới thiệu iPhone 16 và các thiết bị mới khác, đã bị hủy hoại bởi các buổi phát trực tiếp có cảnh quay giả mạo CEO Tim Cook quảng bá cho các vụ lừa đảo tiền điện tử.

Những video giả mạo này khuyến khích người xem quét mã QR trong sự kiện, hứa hẹn một cách sai trái về ưu đãi "gấp đôi số tiền của bạn" để đổi lấy Bitcoin, Ether, Tether hoặc Dogecoin.

Cook do AI tạo ra đảm bảo với người xem rằng họ sẽ nhận được gấp đôi số tiền gửi, nhưng những kẻ lừa đảo chỉ giữ lại số tiền đó.

Một luồng phát trực tiếp đặc biệt lừa đảo đã xuất hiện trên một kênh bắt chước "Apple US", kèm theo dấu kiểm đã xác minh.

Ảnh chụp màn hình và video được chia sẻ trênX (trước đây gọi là Twitter) tiết lộ rằng một số luồng gian lận này đã thu hút hàng trăm nghìn lượt xem, có khả năng được bot thổi phồng để tăng thêm độ tin cậy.

Chi tiết về video nấu ăn Deepfake

Video này cũng hiển thị một URL lừa đảo, apple-gift2024.com, không liên kết với Apple theo bất kỳ cách nào.

Video lừa đảo được chế tác cẩn thận để giống với nội dung từQuả táo Kênh YouTube chính thức của, mô phỏng bố cục và thiết kế của các video tải lên hợp pháp.

Tuy nhiên, điều quan trọng cần lưu ý là kênh chính thức của Apple chỉ có tên đơn giản là "Apple" và có hơn 19 triệu người đăng ký, trong khi kênh giả mạo này chỉ có gần 2 triệu người đăng ký.

Bản thân video có một đoạn clip cũ về Cook tại trụ sở Cupertino của Apple, với giọng nói được tạo ra kém yêu cầu người xem quét mã QR (đã được làm mờ vì lý do an toàn) —để đăng ký tham gia chương trình tặng tiền điện tử giả mạo.

Sự bắt chước này được thiết kế để đánh lừa, nhưng người xem tinh ý sẽ nhận ra những điểm bất thường cho thấy bản chất gian lận của nó.

Thuật toán của YouTube đã đưa trò lừa đảo Deepfake lên hàng đầu

Điều thậm chí còn đáng báo động hơn làYouTube Thuật toán tìm kiếm của 's đã đặt những video lừa đảo này lên đầu kết quả tìm kiếm.

Điều này gây ra rủi ro đáng kể vì không phải người dùng nào cũng có thể dễ dàng nhận biết được hàng giả hoặc nhận ra khi họ bị lừa.

Do đó, YouTube và công ty mẹ Alphabet có trách nhiệm ngăn chặn việc quảng bá nội dung gây hiểu lầm như vậy thành kết quả tìm kiếm phổ biến nhất.

YouTube cũng cần phải điều tra xem những kẻ xấu này đã dễ dàng thao túng thuật toán của mình như thế nào.