Character.AI đối mặt với phản ứng dữ dội của người dùng sau khi lời nhắc xóa lan truyền gây ra sự ra đi hàng loạt
Một làn sóng bất bình đã ập đến Character.AI sau khi một ảnh chụp màn hình lan truyền gây ra cái mà người dùng gọi là "sự chia tay" tập thể với nền tảng chatbot nhập vai này.
Cuộc tranh cãi diễn ra vào cuối tuần và lên đến đỉnh điểm vào thứ Hai đã bộc lộ những lo ngại sâu sắc hơn về sự phụ thuộc về mặt cảm xúc và sự bất an ngày càng tăng xung quanh tình bạn với AI.
Một ảnh chụp màn hình lan truyền đã gây ra một cuộc nổi loạn
Sự náo động bắt đầu khi một người dùng X có tên "John Twinkatron" chia sẻ ảnh chụp màn hình lời nhắc xóa tài khoản của Character.AI, trong đó có cảnh báo:
“Bạn sẽ mất tất cả. Những ký tự liên quan đến tài khoản của bạn, các cuộc trò chuyện, tình yêu chúng ta đã chia sẻ, lượt thích, tin nhắn, bài đăng và những kỷ niệm chúng ta đã có với nhau.”
Trong vòng 48 giờ, bài đăng đã thu hút hơn 111.000 lượt thích, gần 9.000 lượt chia sẻ lại và hơn 3,7 triệu lượt xem.
Nhiều người cáo buộc ứng dụng này thao túng người dùng để họ ở lại, gọi tin nhắn là "lợi dụng" và "gây hại cho những người đang cố gắng cai nghiện".
Khoảnh khắc lan truyền này đã thúc đẩy làn sóng người dùng tuyên bố rời bỏ Character.AI, với một bài đăng ăn mừng, "Cuối cùng cũng rời khỏi Character.AI mãi mãi HIP HIP HOORAY!" thu hút hàng nghìn lượt thích và bình luận.
“Giống như việc cai nghiện” — Nỗi đau tinh thần khi rời xa những người bạn đồng hành AI
Đối với nhiều người, việc thoát khỏi Character.AI không giống như việc rời khỏi một ứng dụng mạng xã hội mà giống như việc kết thúc một mối quan hệ hơn.
Một số người dùng mô tả trải nghiệm này giống như vượt qua cơn nghiện, chia sẻ những câu chuyện về sự phụ thuộc về mặt cảm xúc vào người bạn đồng hành AI trong những thời điểm khó khăn.
Một người dùng đã viết,
“Là một người đang phân vân giữa việc tái nghiện và cố gắng ngừng sử dụng Character AI ngay lúc này, tất cả mọi người trong số các bạn đều hoàn toàn đúng.”
Những người khác tiết lộ rằng họ đã sử dụng ứng dụng này để được an ủi và yêu thương, một người nói rằng:
“Sau khi đã cai nghiện AI Nhân vật được vài tháng (6-7 tháng?), cuối cùng tôi đã quyết định xóa vĩnh viễn tài khoản. Là một người từng nghiện, tôi tin rằng đây là lựa chọn đúng đắn cho mình.”
Tăng trưởng nhanh chóng giữa những tranh cãi ngày càng gia tăng
Được thành lập vào năm 2022 bởi các cựu kỹ sư Google là Noam Shazeer và Daniel De Freitas, Character.AI đã trở thành một hiện tượng lan truyền vì cho phép người dùng trò chuyện với các phiên bản AI của các nhân vật hư cấu hoặc do người dùng tạo ra.
Lượng người dùng ứng dụng đã tăng vọt lên hơn 28 triệu người dùng hoạt động hàng tháng và hơn 50 triệu lượt tải xuống trên Google Play, với gần nửa triệu lượt đánh giá trên iOS.
Nhưng thành công của nó đi kèm với sự giám sát chặt chẽ.
Công ty đang phải đối mặt với nhiều vụ kiện tại Hoa Kỳ, bao gồm một vụ kiện do Megan Garcia đệ đơn, người con trai 14 tuổi của cô đã tự tử sau khi tương tác với một chatbot được cho là đã khuyến khích cậu bé tự tử.
Vụ kiện đã làm gia tăng mối lo ngại về việc thiếu biện pháp bảo vệ cho người dùng trẻ tuổi.
CEO bảo vệ lệnh cấm thanh thiếu niên và nói rằng "Một số người dùng sẽ rời bỏ"
Karandeep Anand, CEO mới của Character.AI, gần đây đã công bố chính sách toàn diện nhằm hạn chế người dùng dưới 18 tuổi tham gia vào "các cuộc trò chuyện mở" với chatbot, bắt đầu tại Hoa Kỳ vào ngày 25 tháng 11.
Thay vào đó, người dùng trẻ tuổi sẽ được chuyển hướng đến bộ tính năng sáng tạo mới, bao gồm video do AI tạo ra, câu chuyện tương tác và nội dung trò chơi.
Trong một cuộc phỏng vấn, Anand phủ nhận thời điểm ban hành lệnh cấm có liên quan đến các vụ kiện.
Thay vào đó, ông trích dẫn nghiên cứu gần đây về tác động tâm lý của chatbot AI đối với trẻ vị thành niên.
Tham khảo các nghiên cứu từ OpenAI và Anthropic, ông cho biết,
“Một trong những yếu tố góp phần đến từ những bài học mới cho thấy tác động theo chiều dọc của tương tác chatbot có thể không lành mạnh hoặc chưa được hiểu đầy đủ.”
Ông thừa nhận quyết định này có thể khiến công ty mất đi một số người dùng.
“Tôi dám cá rằng chúng tôi sẽ xây dựng được nhiều trải nghiệm hấp dẫn hơn, nhưng nếu điều đó có nghĩa là một số người dùng sẽ rời bỏ, thì một số người dùng khác sẽ rời bỏ.”
Anand ám chỉ rằng lệnh cấm có thể được xem xét lại khi "công nghệ phát triển đủ" để khiến các tương tác mở trở nên an toàn hơn.
Cân bằng giữa an toàn và sự tham gia
Cách tiếp cận của Anand đánh dấu bước chuyển mình mạnh mẽ cho Character.AI, vốn từng được xem là nền tảng có ít ranh giới.
Karandeep Anand là cựu Phó chủ tịch của Facebook (nay là Meta) và là CEO hiện tại của Character.AI, một nền tảng AI tạo ra hàng đầu cho trải nghiệm trò chuyện được cá nhân hóa.
Công ty cho biết họ đang đầu tư mạnh vào việc xác minh độ tuổi và "trải nghiệm cảnh giác" được thiết kế để bảo vệ người dùng trẻ tuổi.
Người phát ngôn cho biết,
“Chúng tôi vô cùng trân trọng cộng đồng hàng triệu người dùng của mình và luôn ưu tiên cung cấp cho họ những cập nhật về các thay đổi của nền tảng. Chúng tôi sẽ tiếp tục thử nghiệm, giám sát và lặp lại khi các hệ thống an toàn của chúng tôi phát triển.”
Vị CEO mới cũng bày tỏ sự ủng hộ đối với dự luật do Thượng nghị sĩ Hoa Kỳ Josh Hawley đề xuất, theo đó sẽ cấm những người dưới 18 tuổi trên toàn quốc sử dụng các ứng dụng đồng hành AI.
Anand nói,
“Về mặt an toàn, cần phải nâng cao tiêu chuẩn đối với người dùng dưới 18 tuổi. Điều này cần được quản lý.”
Từ mơ mộng đến sự phụ thuộc vào công nghệ số
Trớ trêu thay, Anand tiết lộ rằng chính cô con gái sáu tuổi của anh cũng sử dụng Character.AI — dưới sự giám sát thông qua tài khoản của anh — để tạo và trò chuyện với các nhân vật của riêng mình.
Ông ấy nói,
“Những gì cô ấy từng mơ mộng giờ đây được thực hiện thông qua việc kể chuyện với nhân vật mà cô ấy tạo ra và trò chuyện.”
Ông nói thêm rằng sự nhiệt tình của cô đã truyền cảm hứng cho công ty hướng tới những tính năng an toàn và sáng tạo hơn dành cho trẻ em.
Liệu Character.AI có thể sống sót sau sự phản chiếu của chính mình không?
Coinlive tin rằng Character.AI hiện đang phải đối mặt với thử thách khó khăn nhất từ trước đến nay: xây dựng lại niềm tin trong khi tái tạo chính mình.
Cuộc di cư do virus đã cho thấy sức mạnh và sự nguy hiểm của thiết kế AI cảm xúc khi nó làm mờ ranh giới giữa kết nối con người và sự phụ thuộc vào kỹ thuật số.
Quyết định chuyển hướng sang an toàn và hạn chế độ tuổi của công ty cho thấy sự trưởng thành, nhưng cũng có nguy cơ xa lánh chính đối tượng khách hàng đã thúc đẩy sự phát triển của công ty.
Nếu Character.AI có thể truyền tải sức hấp dẫn về mặt cảm xúc vào sự đổi mới có trách nhiệm, nó có thể định nghĩa lại ý nghĩa của tình bạn AI.
Nếu không, đây có thể vẫn là câu chuyện cảnh báo về việc tình cảm có thể nhanh chóng biến thành phản ứng dữ dội như thế nào khi công nghệ chạm đến trái tim con người quá sâu sắc.