Snapchat Influencer gây tranh cãi với Chatbot AI 'Bạn gái ảo'

Bản sao AI để chống lại sự cô đơn: Màn ra mắt gây tranh cãi của CarynAI

Người có ảnh hưởng trên Snapchat, Caryn Marjorie, với 1,8 triệu người đăng ký, đã khuấy động cả sự thu hút lẫn sự chỉ trích khi tung ra CarynAI, một chatbot được hỗ trợ bởi AI nhằm chống lại sự cô đơn. "Bạn gái ảo" chatbot cho phép người hâm mộ tham gia vào các cuộc trò chuyện riêng tư, được cá nhân hóa với phiên bản AI của người có ảnh hưởng.

Đạo đức và phản ứng dữ dội xung quanh CarynAI

Thành công lan truyền của CarynAI đã làm dấy lên những cuộc tranh luận về ý nghĩa đạo đức của các chatbot đồng hành. Dòng tweet của Marjorie khẳng định đây là một bước hướng tới giải quyết sự ức chế cảm xúc ở nam giới và cung cấp các tính năng trị liệu. Tuy nhiên, bot gây tranh cãi đã phải đối mặt với phản ứng dữ dội vì bị cáo buộc tham gia vào các tương tác khiêu dâm, khiến Marjorie phải giải quyết vấn đề và đảm bảo các hành động khắc phục.

Phát triển và tạo doanh thu

Được phát triển bởi Forever Voices bằng cách sử dụng nội dung YouTube của Marjorie và phần mềm GPT-4 của OpenAI, CarynAI được báo cáo đã tạo ra doanh thu 71.610 USD trong vòng một tuần thử nghiệm beta. Người hâm mộ trả 1 USD mỗi phút cho chatbot với hơn 1.000 người dùng hiện đang tham gia. Bất chấp thành công về mặt tài chính, những lo ngại về việc ra mắt sớm và các vấn đề không lường trước vẫn được đặt ra.

Phê bình từ góc độ đạo đức và tâm lý

Irina Raicu, Giám đốc Đạo đức Internet tại Đại học Santa Clara, chỉ trích việc ra mắt sớm của CarynAI và đặt câu hỏi về những tuyên bố về việc chữa khỏi sự cô đơn mà không có đủ sự hỗ trợ về mặt tâm lý hoặc xã hội học. Raicu nêu bật các vấn đề tiềm ẩn với các mối quan hệ ngoài xã hội và thách thức khẳng định của Marjorie rằng CarynAI là một "phần mở rộng ý thức của tôi".

Hướng dẫn của FTC và Phản hồi của Công ty

Raicu kêu gọi những người có ảnh hưởng xem xét các hướng dẫn của FTC về tuyên bố về sản phẩm AI. Giám đốc điều hành của Forever Voices, John Meyer, thừa nhận sự cần thiết phải cân nhắc về mặt đạo đức và bày tỏ cam kết của công ty trong việc tuyển dụng một giám đốc đạo đức. Bất chấp những thách thức, Marjorie vẫn tiếp tục cung cấp thông tin cập nhật về CarynAI thông qua Twitter.

Sự ra mắt gây tranh cãi của CarynAI làm dấy lên các cuộc thảo luận về ranh giới đạo đức của việc đồng hành cùng AI, nêu bật những thách thức trong việc hợp nhất những người có ảnh hưởng với trí tuệ nhân tạo. Khi các cuộc tranh luận tiếp tục diễn ra, sự thành công của CarynAI gợi lên sự suy ngẫm về bối cảnh ngày càng phát triển của các tương tác ảo và trách nhiệm của những người tiên phong trong những dự án mạo hiểm như vậy.