Các công cụ AI đang tràn ngập Amazon và Yelp với các đánh giá giả mạo – Bạn có bị lừa không?

Đánh giá do AI tạo ra tràn ngập các nền tảng trực tuyến đang là mối quan tâm ngày càng tăng

Sự xuất hiện của các công cụ AI có khả năng tạo ra các đánh giá chi tiết ở quy mô lớn đã tạo ra làn sóng thách thức mới cho các doanh nghiệp, người tiêu dùng và các nền tảng trực tuyến.

Trong khi đánh giá giả mạo đã là vấn đề tồn tại lâu dài trên các trang web như Amazon, Yelp và Trustpilot, công nghệ AI đã đẩy nhanh đáng kể việc tạo và phân phối các đánh giá gian lận.

AI đang thay đổi bối cảnh đánh giá giả mạo như thế nào

Các công cụ viết AI, chẳng hạn như ChatGPT của OpenAI, đã trở thành công cụ đắc lực trong tay những kẻ lừa đảo.

Những công nghệ này cho phép người dùng nhanh chóng tạo ra khối lượng lớn các bài đánh giá có vẻ chân thực, khiến cả người tiêu dùng và nền tảng khó phân biệt được phản hồi hợp lệ và giả mạo.

Vào giữa năm 2023, The Transparency Company, một nhóm bảo vệ công chúng theo dõi hoạt động gian lận trực tuyến, bắt đầu nhận thấy sự gia tăng đáng kể trong các đánh giá do AI tạo ra.

Cácphát hiện của công ty, được công bố vào cuối năm 2024 , tiết lộ rằng gần 14% trong số 73 triệu đánh giá được kiểm tra trên các dịch vụ gia đình, pháp lý và y tế có khả năng là giả mạo, trong đó 2,3 triệu đánh giá bị nghi ngờ là hoàn toàn hoặc một phần do AI tạo ra.

Nguồn: Công ty Minh bạch

Maury Blackman, một nhà đầu tư vào các công ty khởi nghiệp công nghệ, đã bình luận về sự gia tăng của gian lận được hỗ trợ bởi AI, ông nói rằng,

"Đây thực sự là một công cụ rất tốt dành cho những kẻ lừa đảo đánh giá."

AI và tác động của nó đến niềm tin của người tiêu dùng

Sự gia tăng của các đánh giá do AI tạo ra đặc biệt đáng lo ngại đối với người tiêu dùng, đặc biệt là trong những mùa mua sắm cao điểm như lễ tết khi các đánh giá đóng vai trò quan trọng trong quyết định mua hàng.

Các nền tảng thương mại điện tử lớn, bao gồm Amazon, đã chứng kiến ​​sự gia tăng các đánh giá gian lận, một số trong số đó thậm chí còn lên đầu kết quả tìm kiếm, mặc dù tính xác thực của chúng còn đáng ngờ.

Max Spero, CEO của Pangram Labs, một công ty tập trung vào phát hiện các đánh giá giả mạo, chia sẻ rằng một số đánh giá do AI tạo ra trên Amazon có vẻ "chi tiết và được cân nhắc kỹ lưỡng" đến mức có thể dễ dàng đánh lừa người mua sắm.

Trong khi đó, trên Yelp, các bài đánh giá do AI tạo ra thường được đăng bởi những người dùng cố gắng tích lũy đủ số lượng đánh giá để kiếm được huy hiệu "Elite", huy hiệu này cho phép họ tham gia các sự kiện độc quyền và khiến hồ sơ của họ có vẻ đáng tin cậy hơn.

Các công ty đang làm gì để giải quyết vấn đề này?

Các công ty đang thực hiện các bước để giải quyết vấn đề ngày càng gia tăng về các đánh giá giả mạo do AI tạo ra.

Các nền tảng trực tuyến lớn như Amazon và Trustpilot đang cho phép người dùng đăng bài đánh giá có sự hỗ trợ của AI, miễn là chúng phản ánh chân thực trải nghiệm cá nhân của họ.

Tuy nhiên, Yelp đã có lập trường thận trọng hơn khi yêu cầu các bài đánh giá phải do chính người dùng viết.

Liên minh Đánh giá đáng tin cậy, bao gồm các công ty như Amazon, Trustpilot, Glassdoor và Tripadvisor, thừa nhận khả năng sử dụng sai mục đích AI nhưng cũng coi đây là cơ hội để chống lại các hoạt động gian lận.

Nhóm này ủng hộ việc phát triển các hệ thống phát hiện AI tốt hơn để đảm bảo các đánh giá trực tuyến vẫn đáng tin cậy.

Bất chấp những nỗ lực này, các chuyên gia tin rằng các công ty công nghệ vẫn chưa làm đủ để giải quyết tình trạng đánh giá giả mạo.

Kay Dean, cựu điều tra viên tội phạm liên bang và là người sáng lập Fake Review Watch, đã chỉ ra rằng,

“Nếu các công ty công nghệ này thực sự cam kết xóa bỏ gian lận đánh giá trên nền tảng của họ, tại sao tôi, một cá nhân không làm việc với bất kỳ hệ thống tự động nào, lại có thể tìm thấy hàng trăm hoặc thậm chí hàng nghìn đánh giá giả mạo vào bất kỳ ngày nào?”

Ủy ban Thương mại Liên bang vào cuộc

Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) đã có hành động đáng kể đối với các công ty tạo điều kiện cho việc tạo ra các bài đánh giá giả mạo.

Vào năm 2024, FTC đã cấm việc bán hoặc mua các bài đánh giá giả mạo và kiện công ty đứng sau Rytr, một công cụ viết bằng AI, vì cáo buộc cho phép tạo ra hàng loạt các bài đánh giá gian lận.

Ủy ban lưu ý rằng một số người dùng Rytr đã tạo ra hàng trăm hoặc thậm chí hàng nghìn bài đánh giá cho các doanh nghiệp từ dịch vụ sửa chữa cửa nhà để xe đến người bán hàng hiệu giả.

Mặc dù hành động của FTC đã nâng cao nhận thức, các nền tảng công nghệ lưu trữ các bài đánh giá giả mạo này vẫn được bảo vệ khỏi hậu quả pháp lý.

Luật pháp Hoa Kỳ không bắt buộc các công ty như Amazon hay Google phải chịu trách nhiệm về nội dung do bên thứ ba đăng trên nền tảng của họ.

Phát hiện đánh giá giả: Người tiêu dùng cần biết điều gì

Người tiêu dùng có thể tự bảo vệ mình bằng cách lưu ý một số dấu hiệu cảnh báo khi đọc các bài đánh giá.

Những đánh giá quá nhiệt tình hoặc quá tiêu cực sẽ gây nghi ngờ, cũng như những đánh giá sử dụng thuật ngữ lặp đi lặp lại, chẳng hạn như tên đầy đủ hoặc số hiệu sản phẩm.

Đặc biệt, các bài đánh giá do AI tạo ra thường thể hiện một số đặc điểm nhất định.

Theo nghiên cứu của Panagram Labs, những bài đánh giá này có xu hướng dài hơn, có cấu trúc hơn và chứa đầy "những từ ngữ mô tả trống rỗng" - những thuật ngữ mơ hồ như "thay đổi cuộc chơi" hoặc "điều đầu tiên khiến tôi ấn tượng".

Balázs Kovács, giáo sư tại Đại học Yale, đã tiến hành nghiên cứu cho thấy mọi người thường không thể phân biệt được giữa bài đánh giá do AI tạo ra và bài đánh giá do con người viết.

Các văn bản ngắn hơn, thường thấy trong các bài đánh giá trực tuyến, cũng có thể đánh lừa các công cụ phát hiện AI, khiến việc phát hiện nội dung gian lận trở nên khó khăn hơn.

Cuộc chiến ngày càng gia tăng chống lại các đánh giá giả mạo

Khi việc sử dụng AI để tạo ra các đánh giá giả mạo tiếp tục gia tăng, trách nhiệm không chỉ thuộc về các công ty công nghệ trong việc cải thiện hệ thống phát hiện mà còn thuộc về người tiêu dùng trong việc duy trì sự cảnh giác.

Trong khi một số nền tảng đang thích ứng với thực tế mới bằng cách tinh chỉnh chính sách, các chuyên gia cho rằng cần phải làm nhiều hơn nữa để bảo vệ người tiêu dùng khỏi trở thành nạn nhân của nội dung lừa đảo trực tuyến.

Như Kay Dean đã nói một cách ngắn gọn,

“Những nỗ lực của họ cho đến nay vẫn chưa đủ.”