Cuộc cách mạng AI là một lời nói dối: Người sáng lập công ty khởi nghiệp bị vạch trần vì sử dụng nhân viên tổng đài Philippines để làm giả công nghệ thương mại điện tử

Cuộc cách mạng AI? Một sự lừa dối do con người tạo ra đằng sau một vụ gian lận ứng dụng công nghệ

Trong những năm gần đây, trí tuệ nhân tạo (AI) đã lan tỏa khắp các ngành công nghiệp, mang lại khả năng tự động hóa và hiệu quả theo những cách chưa từng hình dung trước đây.

Tuy nhiên, đằng sau một số tuyên bố này là những kẻ lừa đảo, thao túng niềm tin đặt vào AI để kiếm lợi riêng.

Một ví dụ điển hình là trường hợp của Albert Saniger, cựu CEO của Nate, một ứng dụng thương mại điện tử từng hứa hẹn được cho là sử dụng AI.

Giống như một sự kiện phơi bày ngành công nghệ, "AI" đằng sau ứng dụng này được tiết lộ là một mạng lưới những người làm việc tại Philippines.

Những lời hứa sai lầm về tự động hóa AI cho thương mại điện tử

Nate, ra mắt vào năm 2020, được tiếp thị là một công cụ mua sắm phổ thông được thiết kế để đơn giản hóa việc mua hàng trực tuyến.

Albert Saniger đã gian dối khi tuyên bố ứng dụng của mình là do AI điều khiển; trên thực tế, ứng dụng này được một nhóm ở Philippines vận hành thủ công, qua đó lừa dối cả nhà đầu tư và công chúng. (Nguồn: PCN)

Người dùng được hứa hẹn sẽ có tính năng thanh toán chỉ bằng một lần chạm, tự động điền thông tin vận chuyển, chọn kích cỡ và hoàn tất thanh toán – tất cả đều không cần sự can thiệp của con người.

Theo Saniger, đây là kết quả của công nghệ AI tiên tiến có khả năng cách mạng hóa trải nghiệm mua sắm.

Ứng dụng Nate tuyên bố đơn giản hóa việc mua sắm trực tuyến bằng cách cung cấp tính năng thanh toán một chạm và quản lý sản phẩm được cá nhân hóa, hỗ trợ bởi AI. (Nguồn: COOL HUNTING)

Tuy nhiên, người ta nhanh chóng nhận ra rằng thực tế không phải vậy.

"AI" chỉ là vỏ bọc, che giấu sự tham gia của hàng trăm công nhân được thuê để thực hiện thủ công các nhiệm vụ mà ứng dụng tuyên bố có thể tự động hóa.

Những nhân viên này, làm việc tại một tổng đài ở Philippines, được giao nhiệm vụ hoàn tất giao dịch mua hàng khi người dùng tương tác với ứng dụng, làm suy yếu chính công nghệ cốt lõi của ứng dụng.

40 triệu đô la được huy động bằng những lời lẽ gian dối

Saniger đã thuyết phục được các nhà đầu tư rót hơn 40 triệu đô la vào Nate, thu hút các công ty đầu tư mạo hiểm với lời hứa về công nghệ AI tiên tiến.

Nhưng chức năng thực sự của ứng dụng này lại khác xa với những gì được quảng cáo.

Quyền Luật sư Hoa Kỳ tại New York, Matthew Podolsky, bày tỏ rằng Saniger đã lợi dụng "lời hứa hẹn và sức hấp dẫn của công nghệ AI để xây dựng một câu chuyện sai lệch về sự đổi mới chưa từng tồn tại".

Podolsky phát biểu,

"Kiểu lừa dối này không chỉ làm hại các nhà đầu tư vô tội. Nó còn chuyển hướng vốn khỏi các công ty khởi nghiệp hợp pháp, khiến các nhà đầu tư hoài nghi về những đột phá thực sự và cuối cùng cản trở tiến trình phát triển AI".

AI Thất Bại Của Nate Và Những Người Lao Động Ẩn Của Nó

Mặc dù đã mua công nghệ AI từ nhà cung cấp bên thứ ba và tập hợp một nhóm các nhà khoa học dữ liệu, ứng dụng của Nate vẫn không thể đạt được các mục tiêu đầy tham vọng của mình.

Các tài liệu của tòa án tiết lộ rằng mặc dù ứng dụng có một số thành phần AI nhưng nó không thể hoàn tất giao dịch một cách nhất quán.

Trên thực tế, mức độ tự động hóa gần như bằng không.

Trong mùa lễ bận rộn năm 2021, Saniger được cho là đã ra lệnh cho nhóm kỹ sư của mình phát triển bot để tự động hóa một số giao dịch.

Tuy nhiên, ngay cả với bot, con người vẫn đóng vai trò quan trọng trong việc xử lý hầu hết các giao dịch mua hàng.

Nguồn: Freepik

Theo Ủy ban Chứng khoán và Giao dịch (SEC), khi các câu hỏi bắt đầu xuất hiện về khả năng của ứng dụng, Saniger đã đóng cửa Nate vào tháng 1 năm 2023 và sa thải những nhân viên còn lại.

Một trường hợp gian lận chứng khoán và chuyển tiền

Sự lừa dối này đã không thoát khỏi sự chú ý.

Saniger đã bị buộc tội một tội danh gian lận chứng khoán và một tội danh gian lận chuyển tiền.

Mỗi tội danh có mức án tối đa là 20 năm tù.

SEC cũng đã đệ đơn kiện dân sự chống lại Saniger, nhằm cấm ông này nắm giữ các vị trí tương tự trong các công ty tương tự và yêu cầu trả lại tiền cho các nhà đầu tư.

Các cáo buộc được đưa ra sau nhiều tháng xem xét và điều tra, với việc chính quyền tuyên bố rằng nguồn gốc thực sự của cái gọi là "tự động hóa" của Nate chính là lực lượng lao động làm việc ở hậu trường.

Một mô hình lừa dối quen thuộc

Vụ việc này có nhiều điểm tương đồng đáng kinh ngạc với các vụ bê bối công nghệ nghiêm trọng khác, chẳng hạn như vụ việc của Theranos, nơi những lời hứa về công nghệ mang tính cách mạng đã bị phát hiện chỉ là trò bịp bợm.

Giống như Elizabeth Holmes, người sáng lập Theranos, Saniger đã lợi dụng sự cường điệu xung quanh các công nghệ mới nổi để lừa dối các nhà đầu tư và công chúng.

Vậy, có bao nhiêu công ty khởi nghiệp công nghệ khác tuyên bố khai thác sức mạnh của AI trong khi vẫn dựa vào các phương pháp truyền thống do con người điều khiển để mang lại kết quả?

Và quan trọng hơn, có bao nhiêu người sẵn sàng lợi dụng sự bùng nổ của AI để trục lợi cá nhân?