AI bị lỗi: Shein bị chỉ trích vì bán áo sơ mi có hình ảnh AI giống nghi phạm giết người – AI có đáng tin cậy không?

Shein đối mặt với phản ứng dữ dội sau khi hình ảnh AI của nghi phạm giết người xuất hiện trong danh sách sản phẩm

Shein một lần nữa trở thành tâm điểm tranh cãi sau khi một hình ảnh trên trang web của hãng này xuất hiện cho thấy khuôn mặt của Luigi Mangione, 26 tuổi, bị cáo buộc giết CEO của UnitedHealthcare Brian Thompson vào tháng 12 năm 2024, đang làm người mẫu cho một chiếc áo sơ mi nam có giá dưới 10 đô la Mỹ.

Bức ảnh sản phẩm có hình chiếc áo sơ mi hoa màu trắng và xanh tay ngắn đã nhanh chóng bị xóa, nhưng trước đó đã có ảnh chụp màn hình lan truyền trên mạng xã hội.

Nguồn: X

Những người quan sát đặt câu hỏi liệu hình ảnh này là thật hay được tạo ra một cách giả tạo.

BBC Verify đưa tin rằng Amazon Rekognition đã nhận diện khuôn mặt này trùng khớp tới 99,9% với hình ảnh tại phòng xử án của Mangione, làm dấy lên suy đoán rằng hình ảnh này được tạo ra bằng AI hoặc được chỉnh sửa kỹ thuật số.

Sự bất thường của AI làm dấy lên nghi ngờ về nguồn gốc của bức ảnh

Các chuyên gia về AI tạo sinh chỉ ra nhiều lỗi hình ảnh có thể là bằng chứng của sự thao túng.

Henry Ajder, một chuyên gia về công nghệ deepfake, đã nêu bật các vấn đề về kết cấu da, ánh sáng và phân đoạn ngón tay, cũng như hiện tượng bất thường ở phía trên cẳng tay của người mẫu.

Nhà nghiên cứu Henk van Ess cho rằng lời giải thích hợp lý nhất là một sản phẩm tổng hợp AI trong đó khuôn mặt của Mangione được pha trộn vào cơ thể của một mô hình tổng hợp, có thể là bằng cách sử dụng Midjourney.

Cuộc tranh cãi này đã làm bùng lên cuộc tranh luận về sự ám ảnh của xã hội đối với những nhân vật bạo lực mà ngoại hình của họ trở thành chủ đề bàn tán nhiều như tội ác của họ.

Mangione, người không nhận tội giết người ở cả cấp tiểu bang và liên bang, đã thu hút được lượng người theo dõi không ngờ trên mạng, một số người coi anh ta là biểu tượng của sự tức giận đối với ngành chăm sóc sức khỏe.

Luigi Mangione là ai?

Luigi Nicholas Mangione, sinh ngày 6 tháng 5 năm 1998 tại Towson, Maryland, tốt nghiệp trường Ivy League và là nghi phạm giết Tổng giám đốc điều hành của UnitedHealthcare, Brian Thompson.

Vào ngày 4 tháng 12 năm 2024, Mangione bị cáo buộc đã bắn Thompson bên ngoài một khách sạn ở Midtown Manhattan, dẫn đến việc anh ta bị bắt năm ngày sau đó tại Altoona, Pennsylvania.

Người ta phát hiện anh ta sở hữu một khẩu súng, một bộ phận giảm thanh, giấy tờ tùy thân giả và một bản tuyên ngôn viết tay chỉ trích các công ty chăm sóc sức khỏe.

Mangione phải đối mặt với nhiều cáo buộc, bao gồm tội giết người cấp độ một, giết người nhằm mục đích khủng bố và vi phạm luật sử dụng súng.

Các công tố viên liên bang đang đề nghị mức án tử hình cho vụ án này.

Shein xóa danh sách và hứa sẽ đánh giá nhà cung cấp

Shein xác nhận với nhiều cơ quan truyền thông rằng hình ảnh này đến từ một nhà cung cấp bên thứ ba và đã bị gỡ bỏ ngay lập tức.

Công ty nói với Newsweek,

“Hình ảnh nói trên được cung cấp bởi một nhà cung cấp bên thứ ba và đã bị xóa ngay sau khi phát hiện.”

Người phát ngôn cũng cho biết thêm rằng Shein đang tiến hành xem xét lại các quy trình của mình và sẽ "có hành động thích hợp đối với nhà cung cấp theo chính sách của chúng tôi".

Mặc dù bị loại bỏ nhanh chóng, nhưng có báo cáo cho rằng chiếc áo này đã bán hết trước khi cuộc tranh cãi được phát hiện.

Người dùng mạng xã hội chỉ trích Shein vì không phát hiện ra sự giống nhau sớm hơn, trong khi những người khác lưu ý rằng công ty này đã nhiều lần bị cáo buộc vi phạm đạo đức trong hoạt động.

Tham vọng IPO gặp phải rào cản khác

Vụ bê bối xảy ra vào thời điểm nhạy cảm đối với Shein, công ty đang tìm cách niêm yết công khai để nâng cao uy tín với các nhà đầu tư phương Tây.

Những nỗ lực ban đầu để niêm yết tại New York đã bị đình trệ do bị giám sát chặt chẽ về hoạt động chuỗi cung ứng, trong khi các cuộc đàm phán để niêm yết trên Sàn giao dịch chứng khoán London cũng bị đình trệ do bất đồng giữa các cơ quan quản lý của Anh và Trung Quốc về việc tiết lộ thông tin liên quan đến Tân Cương.

Hiện tại, công ty đang tìm hiểu về khả năng IPO tại Hồng Kông, khi Bloomberg đưa tin rằng Shein thậm chí có thể chuyển trụ sở chính trở lại Trung Quốc đại lục để đảm bảo sự chấp thuận của Bắc Kinh.

Nhà bán lẻ thời trang nhanh, được định giá 6,6 tỷ đô la Mỹ và có trụ sở chính tại Singapore, đang phải đối mặt với nhiều câu hỏi về hoạt động kinh doanh của mình trong khi vẫn cố gắng thuyết phục các nhà đầu tư rằng họ có thể hoạt động có trách nhiệm trên trường quốc tế.

AI trong thời trang cho thấy sự tiện lợi có thể nhanh chóng biến thành hỗn loạn như thế nào

Những gì xảy ra với Shein tuần này không chỉ là sự xấu hổ của công ty mà còn là cái nhìn thoáng qua về mức độ AI không được kiểm soát đang định hình lại thị trường.

Khi khuôn mặt của nghi phạm giết người có thể xuất hiện trên áo sơ mi giá rẻ trực tuyến, ranh giới giữa tự động hóa và trách nhiệm giải trình trở nên mờ nhạt một cách nguy hiểm.

Coinlive tin rằng đây là lời cảnh tỉnh không chỉ dành cho Shein mà còn cho mọi thương hiệu đang dựa vào các công cụ tạo ra sản phẩm mà không có sự giám sát phù hợp.

AI có thể đẩy nhanh thương mại, nhưng khi nó bắt đầu tái chế khuôn mặt của những người đàn ông có tên trong danh sách theo dõi của FBI, nó cho thấy hệ thống này thực sự có nhiều sai sót như thế nào.